Traballo RIWS Instalar dependencias con
pip install -r requirements.txt
Instalar dependencias página web react (react_website)
npm install @elastic/search-ui @elastic/react-search-ui @elastic/react-search-ui-views
npm install --save moment
npm install --save @elastic/search-ui-elasticsearch-connector
npm install react-icons --save
Antes de poder executar elasticsearch é importante configurar este para o seu correcto funcionamento esto farase no archivo elasticsearch.yml. Engadir as liñas, para activar Cors:
http.cors.enabled: true
http.cors.allow-credentials: true
http.cors.allow-origin: "*"
http.cors.allow-methods: OPTIONS, HEAD, GET, POST, PUT, DELETE
http.cors.allow-headers: "*"
Desabilitar autenticación:
xpack.security.enabled: false
xpack.security.enrollment.enabled: false
Unha vez modificado este archivo, pódese executar elastisearch e crear o índice con datos. Esto farase accedendo ao archivo example.py:
cd Crawler/crawler/crawler/spiders
scrapy runspider example.py
Se se quere modificar o número de items a engadir no índice débese modificar o CLOSESPIDER_ITEMCOUNT dentro de example.py ou CLOSESPIDER_PAGECOUNT se se quere filtrar por número de páxinas. A opción de DOWNLOAD_DELAY non debería reducirse a menos de 0.4 para evitar posibles baneos.
custom_settings = {
'CLOSESPIDER_ITEMCOUNT' : 1500,
'CLOSESPIDER_PAGECOUNT' : 10000,
'DOWNLOAD_DELAY' : 0.5}
Unha vez se indexaron correctamente os libros, (comprobable mediante a extensión de buscador e conexión a localhost:9200) pódese iniciar a páxina web.
cd react_website1
npm start
Abrirase a páxina directamente e xa se poderá usar e buscar nela.
- Título
- Autor
- Editorial
- Ano de edicion
- Idioma
- Páxinas
- Imaxe
- Sinopse
- Categorias