16225b270SMichael Große<?php 26225b270SMichael Große 36225b270SMichael Großenamespace dokuwiki\Search; 46225b270SMichael Große 56225b270SMichael Großeuse dokuwiki\Extension\Event; 615f699acSAndreas Gohruse dokuwiki\Search\Exception\IndexAccessException; 7*a16bd548SSatoshi Saharause dokuwiki\Search\Exception\IndexLockException; 8*a16bd548SSatoshi Saharause dokuwiki\Search\Exception\IndexWriteException; 94027a91aSSatoshi Sahara 104027a91aSSatoshi Sahara// Version tag used to force rebuild on upgrade 114027a91aSSatoshi Saharaconst INDEXER_VERSION = 8; 126225b270SMichael Große 136225b270SMichael Große/** 144027a91aSSatoshi Sahara * Class DokuWiki Indexer (Singleton) 156225b270SMichael Große * 164027a91aSSatoshi Sahara * @license GPL 2 (http://www.gnu.org/licenses/gpl.html) 176225b270SMichael Große * @author Andreas Gohr <andi@splitbrain.org> 184027a91aSSatoshi Sahara * @author Tom N Harris <tnharris@whoopdedo.org> 196225b270SMichael Große */ 204027a91aSSatoshi Saharaclass Indexer extends AbstractIndex 214027a91aSSatoshi Sahara{ 224027a91aSSatoshi Sahara /** @var Indexer $instance */ 234027a91aSSatoshi Sahara protected static $instance = null; 246225b270SMichael Große 254027a91aSSatoshi Sahara /** 264027a91aSSatoshi Sahara * Get new or existing singleton instance of the Indexer 274027a91aSSatoshi Sahara * 284027a91aSSatoshi Sahara * @return Indexer 294027a91aSSatoshi Sahara */ 304027a91aSSatoshi Sahara public static function getInstance() 314027a91aSSatoshi Sahara { 324027a91aSSatoshi Sahara if (is_null(static::$instance)) { 334027a91aSSatoshi Sahara static::$instance = new static(); 346225b270SMichael Große } 354027a91aSSatoshi Sahara return static::$instance; 366225b270SMichael Große } 376225b270SMichael Große 386225b270SMichael Große /** 394027a91aSSatoshi Sahara * Dispatch Indexing request for the page, called by TaskRunner::runIndexer() 406225b270SMichael Große * 414027a91aSSatoshi Sahara * @param string $page name of the page to index 424027a91aSSatoshi Sahara * @param bool $verbose print status messages 434027a91aSSatoshi Sahara * @param bool $force force reindexing even when the index is up to date 444027a91aSSatoshi Sahara * @return bool If the function completed successfully 456225b270SMichael Große * 46*a16bd548SSatoshi Sahara * @throws IndexLockException 47*a16bd548SSatoshi Sahara * @throws IndexWriteException 484027a91aSSatoshi Sahara * @author Satoshi Sahara <sahara.satoshi@gmail.com> 4915f699acSAndreas Gohr * @author Tom N Harris <tnharris@whoopdedo.org> 506225b270SMichael Große */ 514027a91aSSatoshi Sahara public function dispatch($page, $verbose = false, $force = false) 524027a91aSSatoshi Sahara { 534027a91aSSatoshi Sahara // check if page was deleted but is still in the index 544027a91aSSatoshi Sahara if (!page_exists($page)) { 5511d2e7d0SSatoshi Sahara return $this->deletePage($page, $verbose, $force); 566225b270SMichael Große } 5711d2e7d0SSatoshi Sahara 5811d2e7d0SSatoshi Sahara // update search index 5911d2e7d0SSatoshi Sahara return $this->addPage($page, $verbose, $force); 606225b270SMichael Große } 616225b270SMichael Große 626225b270SMichael Große /** 634027a91aSSatoshi Sahara * Version of the indexer taking into consideration the external tokenizer. 644027a91aSSatoshi Sahara * The indexer is only compatible with data written by the same version. 656225b270SMichael Große * 664027a91aSSatoshi Sahara * @triggers INDEXER_VERSION_GET 674027a91aSSatoshi Sahara * Plugins that modify what gets indexed should hook this event and 684027a91aSSatoshi Sahara * add their version info to the event data like so: 694027a91aSSatoshi Sahara * $data[$plugin_name] = $plugin_version; 706225b270SMichael Große * 716225b270SMichael Große * @author Tom N Harris <tnharris@whoopdedo.org> 726225b270SMichael Große * @author Michael Hamann <michael@content-space.de> 734027a91aSSatoshi Sahara * 744027a91aSSatoshi Sahara * @return int|string 756225b270SMichael Große */ 764027a91aSSatoshi Sahara public function getVersion() 774027a91aSSatoshi Sahara { 784027a91aSSatoshi Sahara static $indexer_version = null; 794027a91aSSatoshi Sahara if ($indexer_version == null) { 804027a91aSSatoshi Sahara $version = INDEXER_VERSION; 814027a91aSSatoshi Sahara 824027a91aSSatoshi Sahara // DokuWiki version is included for the convenience of plugins 834027a91aSSatoshi Sahara $data = array('dokuwiki' => $version); 844027a91aSSatoshi Sahara Event::createAndTrigger('INDEXER_VERSION_GET', $data, null, false); 854027a91aSSatoshi Sahara unset($data['dokuwiki']); // this needs to be first 864027a91aSSatoshi Sahara ksort($data); 874027a91aSSatoshi Sahara foreach ($data as $plugin => $vers) { 884027a91aSSatoshi Sahara $version .= '+'.$plugin.'='.$vers; 894027a91aSSatoshi Sahara } 904027a91aSSatoshi Sahara $indexer_version = $version; 914027a91aSSatoshi Sahara } 924027a91aSSatoshi Sahara return $indexer_version; 936225b270SMichael Große } 946225b270SMichael Große 954027a91aSSatoshi Sahara /** 964027a91aSSatoshi Sahara * Adds/updates the search index for the given page 974027a91aSSatoshi Sahara * 984027a91aSSatoshi Sahara * Locking is handled internally. 994027a91aSSatoshi Sahara * 1004027a91aSSatoshi Sahara * @param string $page name of the page to index 1014027a91aSSatoshi Sahara * @param bool $verbose print status messages 1024027a91aSSatoshi Sahara * @param bool $force force reindexing even when the index is up to date 1034027a91aSSatoshi Sahara * @return bool If the function completed successfully 1044027a91aSSatoshi Sahara * 105*a16bd548SSatoshi Sahara * @throws IndexLockException 106*a16bd548SSatoshi Sahara * @throws IndexWriteException 1074027a91aSSatoshi Sahara * @author Satoshi Sahara <sahara.satoshi@gmail.com> 10815f699acSAndreas Gohr * @author Tom N Harris <tnharris@whoopdedo.org> 1094027a91aSSatoshi Sahara */ 1104027a91aSSatoshi Sahara public function addPage($page, $verbose = false, $force = false) 1114027a91aSSatoshi Sahara { 1124027a91aSSatoshi Sahara // check if indexing needed for the existing page (full text and/or metadata indexing) 1134027a91aSSatoshi Sahara $idxtag = metaFN($page,'.indexed'); 1144027a91aSSatoshi Sahara if (!$force && file_exists($idxtag)) { 1154027a91aSSatoshi Sahara if (trim(io_readFile($idxtag)) == $this->getVersion()) { 1164027a91aSSatoshi Sahara $last = @filemtime($idxtag); 1174027a91aSSatoshi Sahara if ($last > @filemtime(wikiFN($page))) { 1184027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: index for {$page} up to date"); 1194027a91aSSatoshi Sahara return true; 1204027a91aSSatoshi Sahara } 1214027a91aSSatoshi Sahara } 1224027a91aSSatoshi Sahara } 1236225b270SMichael Große 124*a16bd548SSatoshi Sahara // register the page to the page.idx file, $pid is always numeric 1254027a91aSSatoshi Sahara $pid = $this->getPID($page); 1266225b270SMichael Große 1274027a91aSSatoshi Sahara // prepare metadata indexing 1284027a91aSSatoshi Sahara $metadata = array(); 1294027a91aSSatoshi Sahara $metadata['title'] = p_get_metadata($page, 'title', METADATA_RENDER_UNLIMITED); 1306225b270SMichael Große 1314027a91aSSatoshi Sahara $references = p_get_metadata($page, 'relation references', METADATA_RENDER_UNLIMITED); 1324027a91aSSatoshi Sahara $metadata['relation_references'] = ($references !== null) ? 1334027a91aSSatoshi Sahara array_keys($references) : array(); 1346225b270SMichael Große 1354027a91aSSatoshi Sahara $media = p_get_metadata($page, 'relation media', METADATA_RENDER_UNLIMITED); 1364027a91aSSatoshi Sahara $metadata['relation_media'] = ($media !== null) ? 1374027a91aSSatoshi Sahara array_keys($media) : array(); 1386225b270SMichael Große 1394027a91aSSatoshi Sahara // check if full text indexing allowed 1404027a91aSSatoshi Sahara $indexenabled = p_get_metadata($page, 'internal index', METADATA_RENDER_UNLIMITED); 1414027a91aSSatoshi Sahara if ($indexenabled !== false) $indexenabled = true; 1424027a91aSSatoshi Sahara $metadata['internal_index'] = $indexenabled; 1436225b270SMichael Große 1444027a91aSSatoshi Sahara $body = ''; 1454027a91aSSatoshi Sahara $data = compact('page', 'body', 'metadata', 'pid'); 1464027a91aSSatoshi Sahara $event = new Event('INDEXER_PAGE_ADD', $data); 1474027a91aSSatoshi Sahara if ($event->advise_before()) $data['body'] = $data['body'].' '.rawWiki($page); 1484027a91aSSatoshi Sahara $event->advise_after(); 1494027a91aSSatoshi Sahara unset($event); 1504027a91aSSatoshi Sahara extract($data); 1514027a91aSSatoshi Sahara $indexenabled = $metadata['internal_index']; 1524027a91aSSatoshi Sahara unset($metadata['internal_index']); 1536225b270SMichael Große 1544027a91aSSatoshi Sahara // Access to Metadata Index 1554027a91aSSatoshi Sahara $MetadataIndex = MetadataIndex::getInstance(); 1564027a91aSSatoshi Sahara $result = $MetadataIndex->addMetaKeys($page, $metadata); 1574027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: addMetaKeys({$page}) ".($result ? 'done' : 'failed')); 1584027a91aSSatoshi Sahara if (!$result) { 1596225b270SMichael Große return false; 1606225b270SMichael Große } 1616225b270SMichael Große 162743c9a28SSatoshi Sahara // Access to Fulltext Index 163743c9a28SSatoshi Sahara $FulltextIndex = FulltextIndex::getInstance(); 1644027a91aSSatoshi Sahara if ($indexenabled) { 165743c9a28SSatoshi Sahara $result = $FulltextIndex->addPagewords($page, $body); 1664027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: addPageWords({$page}) ".($result ? 'done' : 'failed')); 1674027a91aSSatoshi Sahara if (!$result) { 1686225b270SMichael Große return false; 1696225b270SMichael Große } 1706225b270SMichael Große } else { 1714027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: full text indexing disabled for {$page}"); 172743c9a28SSatoshi Sahara // ensure the page content deleted from the Fulltext index 173743c9a28SSatoshi Sahara $result = $FulltextIndex->deletePageWords($page); 1744027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: deletePageWords({$page}) ".($result ? 'done' : 'failed')); 1754027a91aSSatoshi Sahara if (!$result) { 1766225b270SMichael Große return false; 1776225b270SMichael Große } 1786225b270SMichael Große } 1796225b270SMichael Große 1804027a91aSSatoshi Sahara // update index tag file 1814027a91aSSatoshi Sahara io_saveFile($idxtag, $this->getVersion()); 1824027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: finished"); 1834027a91aSSatoshi Sahara 1844027a91aSSatoshi Sahara return $result; 1856225b270SMichael Große } 1866225b270SMichael Große 1876225b270SMichael Große /** 1885f9bd525SSatoshi Sahara * Remove a page from the index 1896225b270SMichael Große * 1905f9bd525SSatoshi Sahara * Erases entries in all known indexes. Locking is handled internally. 1916225b270SMichael Große * 1924027a91aSSatoshi Sahara * @param string $page name of the page to index 1934027a91aSSatoshi Sahara * @param bool $verbose print status messages 1944027a91aSSatoshi Sahara * @param bool $force force reindexing even when the index is up to date 1954027a91aSSatoshi Sahara * @return bool If the function completed successfully 1966225b270SMichael Große * 197*a16bd548SSatoshi Sahara * @throws IndexLockException 198*a16bd548SSatoshi Sahara * @throws IndexWriteException 1994027a91aSSatoshi Sahara * @author Satoshi Sahara <sahara.satoshi@gmail.com> 20015f699acSAndreas Gohr * @author Tom N Harris <tnharris@whoopdedo.org> 2016225b270SMichael Große */ 2024027a91aSSatoshi Sahara public function deletePage($page, $verbose = false, $force = false) 2034027a91aSSatoshi Sahara { 2044027a91aSSatoshi Sahara $idxtag = metaFN($page,'.indexed'); 2054027a91aSSatoshi Sahara if (!$force && !file_exists($idxtag)) { 2064027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: {$page}.indexed file does not exist, ignoring"); 2074027a91aSSatoshi Sahara return true; 2084027a91aSSatoshi Sahara } 2096225b270SMichael Große 210743c9a28SSatoshi Sahara // remove obsoleted content from Fulltext index 211743c9a28SSatoshi Sahara $FulltextIndex = FulltextIndex::getInstance(); 212743c9a28SSatoshi Sahara $result = $FulltextIndex->deletePageWords($page); 2134027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: deletePageWords({$page}) ".($result ? 'done' : 'failed')); 2144027a91aSSatoshi Sahara if (!$result) { 2154027a91aSSatoshi Sahara return false; 2164027a91aSSatoshi Sahara } 2176225b270SMichael Große 2184027a91aSSatoshi Sahara // delete all keys of the page from metadata index 2194027a91aSSatoshi Sahara $MetadataIndex = MetadataIndex::getInstance(); 2204027a91aSSatoshi Sahara $result = $MetadataIndex->deleteMetaKeys($page); 2214027a91aSSatoshi Sahara if ($verbose) dbglog("Indexer: deleteMetaKeys({$page}) ".($result ? 'done' : 'failed')); 2224027a91aSSatoshi Sahara if (!$result) { 2234027a91aSSatoshi Sahara return false; 2244027a91aSSatoshi Sahara } 2254027a91aSSatoshi Sahara 2264027a91aSSatoshi Sahara // mark the page as deleted in the page.idx 2274027a91aSSatoshi Sahara $pid = $this->getPID($page); 228*a16bd548SSatoshi Sahara $this->lock(); 229*a16bd548SSatoshi Sahara $this->saveIndexKey('page', '', $pid, self::INDEX_MARK_DELETED.$page); 230*a16bd548SSatoshi Sahara if ($verbose) dbglog("Indexer: {$page} has marked as deleted in page.idx"); 2316225b270SMichael Große $this->unlock(); 2324027a91aSSatoshi Sahara 2334027a91aSSatoshi Sahara unset(static::$pidCache[$pid]); 2344027a91aSSatoshi Sahara @unlink($idxtag); 2354027a91aSSatoshi Sahara return $result; 2364027a91aSSatoshi Sahara } 2374027a91aSSatoshi Sahara 2384027a91aSSatoshi Sahara /** 2394027a91aSSatoshi Sahara * Rename a page in the search index without changing the indexed content. 2404027a91aSSatoshi Sahara * This function doesn't check if the old or new name exists in the filesystem. 2414027a91aSSatoshi Sahara * It returns an error if the old page isn't in the page list of the indexer 2424027a91aSSatoshi Sahara * and it deletes all previously indexed content of the new page. 2434027a91aSSatoshi Sahara * 2444027a91aSSatoshi Sahara * @param string $oldpage The old page name 2454027a91aSSatoshi Sahara * @param string $newpage The new page name 2464027a91aSSatoshi Sahara * @return bool If the page was successfully renamed 247*a16bd548SSatoshi Sahara * @throws IndexLockException 248*a16bd548SSatoshi Sahara * @throws IndexWriteException 2494027a91aSSatoshi Sahara */ 2504027a91aSSatoshi Sahara public function renamePage($oldpage, $newpage) 2514027a91aSSatoshi Sahara { 2524027a91aSSatoshi Sahara $index = $this->getIndex('page', ''); 2534027a91aSSatoshi Sahara // check if oldpage found in page.idx 2544027a91aSSatoshi Sahara $oldPid = array_search($oldpage, $index, true); 2554027a91aSSatoshi Sahara if ($oldPid === false) return false; 2564027a91aSSatoshi Sahara 2574027a91aSSatoshi Sahara // check if newpage found in page.idx 2584027a91aSSatoshi Sahara $newPid = array_search($newpage, $index, true); 2594027a91aSSatoshi Sahara if ($newPid !== false) { 2604027a91aSSatoshi Sahara $result = $this->deletePage($newpage); 2614027a91aSSatoshi Sahara if (!$result) return false; 2624027a91aSSatoshi Sahara // Note: $index is no longer valid after deletePage()! 2634027a91aSSatoshi Sahara unset($index); 2644027a91aSSatoshi Sahara } 2654027a91aSSatoshi Sahara 2664027a91aSSatoshi Sahara // update page.idx 267*a16bd548SSatoshi Sahara $this->lock(); 268*a16bd548SSatoshi Sahara $this->saveIndexKey('page', '', $oldPid, $newpage); 2694027a91aSSatoshi Sahara $this->unlock(); 2704027a91aSSatoshi Sahara 2714027a91aSSatoshi Sahara // reset the pid cache 2724027a91aSSatoshi Sahara $this->resetPIDCache(); 2736225b270SMichael Große 274*a16bd548SSatoshi Sahara return true; 2756225b270SMichael Große } 2766225b270SMichael Große 2776225b270SMichael Große /** 2784027a91aSSatoshi Sahara * Clear the Page Index 2796225b270SMichael Große * 280abb227bcSSatoshi Sahara * @param bool $requireLock should be false only if the caller is resposible for index lock 2816225b270SMichael Große * @return bool If the index has been cleared successfully 28215f699acSAndreas Gohr * @throws Exception\IndexLockException 2836225b270SMichael Große */ 2844027a91aSSatoshi Sahara public function clear($requireLock = true) 2854027a91aSSatoshi Sahara { 2866225b270SMichael Große global $conf; 2876225b270SMichael Große 28815f699acSAndreas Gohr if ($requireLock) $this->lock(); 2894027a91aSSatoshi Sahara 2904027a91aSSatoshi Sahara // clear Metadata Index 2914027a91aSSatoshi Sahara $MetadataIndex = MetadataIndex::getInstance(); 2924027a91aSSatoshi Sahara $MetadataIndex->clear(false); 2934027a91aSSatoshi Sahara 294743c9a28SSatoshi Sahara // clear Fulltext Index 295743c9a28SSatoshi Sahara $FulltextIndex = FulltextIndex::getInstance(); 296743c9a28SSatoshi Sahara $FulltextIndex->clear(false); 2976225b270SMichael Große 2986225b270SMichael Große @unlink($conf['indexdir'].'/page.idx'); 2996225b270SMichael Große 3006225b270SMichael Große // clear the pid cache 3014027a91aSSatoshi Sahara $this->resetPIDCache(); 3026225b270SMichael Große 3034027a91aSSatoshi Sahara if ($requireLock) $this->unlock(); 3046225b270SMichael Große return true; 3056225b270SMichael Große } 3066225b270SMichael Große 3076225b270SMichael Große} 308