IT Solutions Technology Blog

RAGFlow – it offers a streamlined RAG workflow for businesses of any scale, combining LLM (Large Language Models) to provide truthful question-answering capabilities backed by well-founded citations from various complex formatted data

root@pve-ai-rag-12:~# curl -fsSL https://get.docker.com -o get-docker.sh
root@pve-ai-rag-12:~#
root@pve-ai-rag-12:~# chmod +x get-docker.sh
root@pve-ai-rag-12:~# ./get-docker.sh

Prerequisites
CPU ≥ 4 cores
RAM ≥ 16 GB
Disk ≥ 50 GB
Docker ≥ 24.0.0 & Docker Compose ≥ v2.26.1

root@pve-ai-rag-12:~# vi /etc/sysctl.conf
vm.max_map_count=262144 

root@pve-ai-rag-12:~#

root@pve-ai-rag-12:~# sysctl vm.max_map_count
vm.max_map_count = 262144

root@pve-ai-rag-12:~# git clone https://github.com/infiniflow/ragflow.git
Cloning into ‚ragflow’…
remote: Enumerating objects: 16837, done.
remote: Counting objects: 100% (2199/2199), done.
remote: Compressing objects: 100% (926/926), done.
remote: Total 16837 (delta 1444), reused 1827 (delta 1232), pack-reused 14638 (from 1)
Receiving objects: 100% (16837/16837), 48.20 MiB | 10.68 MiB/s, done.
Resolving deltas: 100% (11705/11705), done.

root@pve-ai-rag-12:~#

root@pve-ai-rag-12:~/ragflow/docker#

root@pve-ai-rag-12:~/ragflow/docker# docker compose up -d
WARN[0000] The „HF_ENDPOINT“ variable is not set. Defaulting to a blank string.
WARN[0000] The „MACOS“ variable is not set. Defaulting to a blank string.
[+] Running 0/5
[+] Running 0/5 1.9s
[+] Running 0/5 2.0s
[+] Running 0/5 2.1s
[+] Running 0/5 2.2s [+] Running 0/5 2.3s [+] Running 0/5 2.4s [+] Running 0/5 2.5s [+] Running 0/5 2.6s [+] Running 0/5 2.7s [+] Running 1/5 2.8s [+] Running 1/5⠀⠀⠀⠀] Pulling 2.9s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.0s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.1s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.2s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.3s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.4s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.5s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.6s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.7s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.8s [+] Running 1/5⠀⠀⠀⠀] Pulling 3.9s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.0s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.1s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.2s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.3s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.4s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.5s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.6s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.7s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.8s [+] Running 1/5⠀⠀⠀⠀] Pulling 4.9s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.0s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.1s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.2s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.3s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.4s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.5s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.6s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.7s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.8s [+] Running 1/5⠀⠀⠀⠀] Pulling 5.9s [+] Running 103/5⠀⠀] Pulling 6.0s ✔ es01 Pulled 752.2s ✔ mysql Pulled 640.6s ✔ minio Pulled 658.2s ✔ ragflow Pulled 1634.5s
✔ redis Pulled 647.9s
[+] Running 10/10
✔ Network docker_ragflow Created 0.2s
✔ Volume „docker_minio_data“ Created 0.0s
✔ Volume „docker_redis_data“ Created 0.0s
✔ Volume „docker_esdata01“ Created 0.0s
✔ Volume „docker_mysql_data“ Created 0.0s
✔ Container ragflow-mysql Healthy 24.0s
✔ Container ragflow-es-01 Healthy 54.5s
✔ Container ragflow-redis Started 3.5s
✔ Container ragflow-minio Started 3.5s
✔ Container ragflow-server Started 52.5s

root@pve-ai-rag-12:~/ragflow/docker#

root@pve-ai-rag-12:~/ragflow/docker# docker logs -f ragflow-server
[WARNING] [2024-10-02 19:44:40,108] [synonym.__init__] [line:40]: Realtime synonym is disabled, since no redis connection.
[WARNING] [2024-10-02 19:44:40,122] [synonym.__init__] [line:40]: Realtime synonym is disabled, since no redis connection.
[WARNING] [2024-10-02 19:44:40,556] [synonym.__init__] [line:40]: Realtime synonym is disabled, since no redis connection.
[WARNING] [2024-10-02 19:44:40,571] [synonym.__init__] [line:40]: Realtime synonym is disabled, since no redis connection.
[WARNING] Load term.freq FAIL!
[WARNING] Load term.freq FAIL!

____ ___ ______ ______ __
/ __ \ / | / ____// ____// /____ _ __
/ /_/ // /| | / / __ / /_ / // __ \| | /| / /
/ _, _// ___ |/ /_/ // __/ / // /_/ /| |/ |/ /
/_/ |_|/_/ |_|\____//_/ /_/ \____/ |__/|__/

[INFO] [2024-10-02 19:45:10,672] [_internal._log] [line:96]: WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead.
* Running on all addresses (0.0.0.0)
* Running on http://127.0.0.1:9380
* Running on http://172.18.0.6:9380
[INFO] [2024-10-02 19:45:10,673] [_internal._log] [line:96]: Press CTRL+C to quit

root@pve-ai-rag-12:~/ragflow/docker#

root@pve-ai-rag-12:~/ragflow/docker# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
efd3ad8a8418 infiniflow/ragflow:dev „./entrypoint.sh“ 6 minutes ago Up 5 minutes 0.0.0.0:80->80/tcp, :::80->80/tcp, 0.0.0.0:443->443/tcp, :::443->443/tcp, 0.0.0.0:5678->5678/tcp, :::5678->5678/tcp, 0.0.0.0:9380->9380/tcp, :::9380->9380/tcp ragflow-server
d3216b488dcb quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z „/usr/bin/docker-ent…“ 6 minutes ago Up 6 minutes 0.0.0.0:9000-9001->9000-9001/tcp, :::9000-9001->9000-9001/tcp ragflow-minio
84aca211e561 mysql:8.0.39 „docker-entrypoint.s…“ 6 minutes ago Up 6 minutes (healthy) 33060/tcp, 0.0.0.0:5455->3306/tcp, [::]:5455->3306/tcp ragflow-mysql
8fd627fcaa6a docker.elastic.co/elasticsearch/elasticsearch:8.11.3 „/bin/tini — /usr/l…“ 6 minutes ago Up 6 minutes (healthy) 9300/tcp, 0.0.0.0:1200->9200/tcp, [::]:1200->9200/tcp ragflow-es-01
3860d08c363e redis:7.2.4 „docker-entrypoint.s…“ 6 minutes ago Up 6 minutes 0.0.0.0:6379->6379/tcp, :::6379->6379/tcp ragflow-redis

root@pve-ai-rag-12:~/ragflow/docker#

root@pve-ai-rag-12:~#

root@pve-ai-llm-12:~# docker exec -it ollama ollama run llama3.2:1b
pulling manifest
pulling 74701a8c35f6… 100% ▕██████████████████████████████████████████.3 GB
pulling 966de95ca8a6… 100% ▕█████████████████████████████████████████▏ 1.4 KB
pulling fcc5a6bec9da… 100% ▕█████████████████████████████████████████▏ 7.7 KB
pulling a70ff7e570d9… 100% ▕█████████████████████████████████████████▏ 6.0 KB
pulling 4f659a1e86d7… 100% ▕█████████████████████████████████████████▏ 485 B
verifying sha256 digest
writing manifest
success
>>> Schreibe einen Text über die Geschichte des Eiffelturms in deutsch in 500 Worten
Der Eiffel-Turm ist eines der bekanntesten Gebäude der Welt, und seine Geschichte reicht weit zurück. Die Idee für den Turm entstand im Jahr 1887 im Paris
der Saison, als die Stadt zum ersten Weltausstellung (Exposition universelle) um die Einrichtung eines repräsentativen Gebäudes drängte.

Der Plan für den Eiffel-Turm wurde von dem französischen Ingenieur Gustave Eiffel entwickelt. Eiffel war der Gründer der Compagnie des Archives d’Anvers,
einer Firma, die Elektrizität und Stahlproduktion herstellte. Er wusste, dass ein neuer Turm in Paris eine Vision von Joseph Édouard Tissot sein sollte,
einem britischen Architekten und Designer.

Tissot hatte 1883 einen Entwurf für einen Turm vorgeschlagen, der 276 Meter hoch war und als Vorbild für den Eiffel-Turm diente. Eiffels Plan war jedoch
viel höher: 324 Meter. Er überlegte sich verschiedene Lösungen, darunter die Verwendung von Stahlgurten oder die Installation von Gittern.

Nach intensiven Diskussionen und Recherchen wurde am 31. Mai 1887 der Eiffel-Turm als „La Tour Eiffel“ offiziell gestellt. Die Architektinnen Marie and
Pierre Curie und Berthe Morisot waren am Gebäude vorbeifahren und würdigt es als ein Meilenstein in der Geschichte der Stadt.

In den ersten Jahren war der Turm nicht sehr erfolgreich. Er wurde von der Öffentlichkeit nur selten besucht, und Eiffel musste mit finanziellen
Schwierigkeiten umgehen. Trotzdem entwickelte sich die Welle der Bewunderung um den Turm langsam.

Im Jahr 1889 fand in Paris das erste Internationale Erweiterungswesen statt, bei dem der Eiffel-Turm als Teil der Ausstellung präsentiert wurde. Die
Besucher waren beeindruckt von seiner Stärke und Weite, und sein Name „La Tour Eiffel“ wurde auf den Plakatwänden angebracht.

Der Eiffel-Turm wurde 1889 unter der Aufsicht des Präsidenten Émile de Laboulaye eingeweiht. Am 28. Juni des gleichen Jahres wurde er als erste
Stahlkonstruktion mit einer Stahlbetonung offiziell von der französischen Regierung bestätigt.

In den folgenden Jahren begann sich die Popularität des Eiffel-Turms zu entwickeln. Er wurde zu einem Symbol der Franzosen und eines der bekanntesten
Gebäude der Welt. Nach dem Ersten Weltkrieg wurde er 1930 offiziell in seine Rolle als Symbol des Friedens eingeführt.

Heute ist der Eiffel-Turm einer der beliebtesten Touristenattraktionen der Welt, mit über 7 Millionen Besucher pro Jahr. Trotz seiner hohen Beliebtheit
hat er jedoch auch immer noch ein Gefühl von Rechtschaffenheit und Tradition, das ihn zu einem Symbol der französischen Kultur macht.

Heute ist der Eiffel-Turm nicht mehr die einzige Stahlwelt der Welt, aber seine Geschichte und Bedeutung bleiben unvergesslich. Er zeigt uns, dass
Innovation und Technologie auch in den Alltagsleben ein wichtiger Bestandteil sind.

>>> /bye

root@pve-ai-llm-12:~#