IT Solutions Technology Blog

root@ra-ubuntu24:~# docker rm -f open-webui
open-webui

root@ra-ubuntu24:~# docker pull ghcr.io/open-webui/open-webui:main
main: Pulling from open-webui/open-webui
7cf63256a31a: Pull complete
183f0922284a: Pull complete
5dbb3b698b72: Pull complete
0c5ce2cb4ecc: Pull complete
96d17593eba8: Pull complete
4f4fb700ef54: Pull complete
2671deb00349: Pull complete
f13d720819a1: Pull complete
522e3f1759d3: Pull complete
d1f6a6db44f8: Pull complete
b01de02d3356: Pull complete
8cdd02903e6c: Pull complete
5b6a8e7bce50: Pull complete
a0e935071214: Pull complete
3439e32d8c2b: Pull complete
Digest: sha256:fff3d8017355097556d7600aa84b46e28b221201ecda9f9191d2249a05b88fc3
Status: Downloaded newer image for ghcr.io/open-webui/open-webui:main
ghcr.io/open-webui/open-webui:main

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# docker run ghcr.io/open-webui/open-webui:main
v0.5.20 – building the best open-source AI user interface.

root@ra-ubuntu24:~# docker run -d -p 3000:8080 –env OLLAMA_BASE_URL=http://192.168.1.171:11434 -v open-webui:/app/backend/data –name open-webui –restart always ghcr.io/open-webui/open-webui:main

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
58b9699562f4 ghcr.io/open-webui/open-webui:main „bash start.sh“ 8 minutes ago Up 8 minutes (healthy) 0.0.0.0:3000->8080/tcp, [::]:3000->8080/tcp open-webui

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# lspci | grep -i nvidia
05:00.0 VGA compatible controller: NVIDIA Corporation GM107GL [Tesla M10] (rev a2)
06:00.0 VGA compatible controller: NVIDIA Corporation GM107GL [Tesla M10] (rev a2)
07:00.0 VGA compatible controller: NVIDIA Corporation GM107GL [Tesla M10] (rev a2)
08:00.0 VGA compatible controller: NVIDIA Corporation GM107GL [Tesla M10] (rev a2)

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# cat /proc/driver/nvidia/version
NVRM version: NVIDIA UNIX x86_64 Kernel Module 535.183.01 Sun May 12 19:39:15 UTC 2024
GCC version: gcc version 13.3.0 (Ubuntu 13.3.0-6ubuntu2~24.04)

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# apt-get install nvtop
Paketlisten werden gelesen… Fertig
Abhängigkeitsbaum wird aufgebaut… Fertig
Statusinformationen werden eingelesen… Fertig
Die folgenden NEUEN Pakete werden installiert:
nvtop
0 aktualisiert, 1 neu installiert, 0 zu entfernen und 57 nicht aktualisiert.
Es müssen 62,8 kB an Archiven heruntergeladen werden.
Nach dieser Operation werden 180 kB Plattenplatz zusätzlich benutzt.
Holen:1 http://de.archive.ubuntu.com/ubuntu noble/multiverse amd64 nvtop amd64 3.0.2-1 [62,8 kB]
Es wurden 62,8 kB in 0 s geholt (257 kB/s).
Vormals nicht ausgewähltes Paket nvtop wird gewählt.
(Lese Datenbank … 244170 Dateien und Verzeichnisse sind derzeit installiert.)
Vorbereitung zum Entpacken von …/nvtop_3.0.2-1_amd64.deb …
Entpacken von nvtop (3.0.2-1) …
nvtop (3.0.2-1) wird eingerichtet …
Trigger für gnome-menus (3.36.0-1.1ubuntu3) werden verarbeitet …
Trigger für man-db (2.12.0-4build2) werden verarbeitet …
Trigger für desktop-file-utils (0.27-2build1) werden verarbeitet …

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# nvtop

root@ra-ubuntu24:~# ollama run –verbose gemma3:27b
pulling manifest
pulling afa0ea2ef463… 100% ▕█████████████████████████▏ 17 GB
pulling e0a42594d802… 100% ▕█████████████████████████▏ 358 B
pulling dd084c7d92a3… 100% ▕█████████████████████████▏ 8.4 KB
pulling 0a74a8735bf3… 100% ▕█████████████████████████▏ 55 B
pulling 9e5186b1ce17… 100% ▕█████████████████████████▏ 490 B
verifying sha256 digest
writing manifest
success
>>> Schreibe einen Text über die Geschichte des Eiffelturms in deutsch in 500 Worten
## Der Eiffelturm: Eine Geschichte von Kontroverse, Innovation und Ikone

Der Eiffelturm, das Wahrzeichen von Paris und Frankreich, ist weit mehr als nur ein beeindruckendes Stahlbauwerk. Seine Geschichte ist geprägt von Kontroversen, technischer Innovation und der Wandlung von einem umstrittenen Projekt zu
einer geliebten Ikone.

Die Idee für den Turm entstand im Rahmen der Vorbereitungen zur Weltausstellung 1889, die anlässlich des 100. Jahrestages der Französischen Revolution in Paris stattfand. Der Wettbewerb forderte ein Bauwerk, das den Fortschritt
der französischen Industrie und Ingenieurskunst demonstrieren sollte. Gustave Eiffel, ein renommierter Brückenbauer, reichte mit seinem Team einen Entwurf ein, der einen 300 Meter hohen Turm aus Schmiedeeisen vorsah.

Der Entwurf stieß jedoch auf heftigen Widerstand. Eine Gruppe von Künstlern und Intellektuellen, darunter Schriftsteller wie Guy de Maupassant und Alexandre Dumas fils, veröffentlichte 1887 ein offenes Schreiben, in dem sie
den Turm als „monströse und nutzlose Struktur“ verurteilten, die das Stadtbild von Paris entstellen würde. Sie nannten ihn eine „schwarze, gitterartige Fabrik“ und befürchteten, dass er die Schönheit der Stadt überwältigen würde.

Trotz der Proteste erhielt Eiffel den Zuschlag und die Bauarbeiten begannen am 28. Januar 1887. Die Konstruktion war eine technische Meisterleistung für ihre Zeit. Über 300 Arbeiter waren beteiligt, und die einzelnen Eisenteile wurden
vor Ort mit über 2,5 Millionen Nieten verbunden. Die Bauzeit betrug nur etwas mehr als zwei Jahre, was für ein Projekt dieser Größenordnung bemerkenswert war.

Am 31. März 1889 wurde der Eiffelturm feierlich eingeweiht und wurde zum Hauptattraktion der Weltausstellung. Ursprünglich war der Turm nur für 20 Jahre geplant und sollte danach abgerissen werden. Doch seine praktische
Nützlichkeit als Antennenmast für die Telegrafie und später für den Rundfunk rettete ihn vor dem Abriss.

Im Laufe der Jahre wurde der Eiffelturm immer wieder modernisiert und verbessert. Es wurden Aufzüge installiert, die den Zugang zum Gipfel erleichterten, und die Beleuchtung wurde ständig weiterentwickelt. Heute erstrahlt der Turm in
einem goldenen Licht und bietet spektakuläre Lichtshows, die Besucher aus aller Welt anziehen.

Der Eiffelturm hat sich von einem umstrittenen Projekt zu einem Symbol für Paris, Frankreich und die menschliche Ingenieurskunst entwickelt. Er ist nicht nur ein beliebtes Touristenziel, sondern auch ein Ort der Romantik, der
Inspiration und der kulturellen Bedeutung. Er steht für den Fortschritt, die Innovation und die Fähigkeit des Menschen, scheinbar unmögliche Dinge zu erreichen.

Heute ist der Eiffelturm einer der meistbesuchten bezahlten Monumente der Welt und ein unbestrittener Beweis für die Vision und das Talent von Gustave Eiffel und seinem Team. Er ist mehr als nur ein Turm – er ist eine Ikone, die die
Herzen der Menschen auf der ganzen Welt erobert hat.

total duration: 6m47.789824269s
load duration: 112.646502ms
prompt eval count: 30 token(s)
prompt eval duration: 6.116s
prompt eval rate: 4.91 tokens/s
eval count: 715 token(s)
eval duration: 6m41.558s
eval rate: 1.78 tokens/s
>>> Send a message (/? for help)

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# ollama ps
NAME ID SIZE PROCESSOR UNTIL
gemma3:27b 30ddded7fba6 30 GB 100% GPU 4 minutes from now

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# ollama –version
ollama version is 0.5.7
Warning: client version is 0.6.0

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# curl https://ollama.ai/install.sh | sh
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 13281 0 13281 0 0 30786 0 –:–:– –:–:– –:–:– 30814
>>> Cleaning up old version at /usr/local/lib/ollama
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
########################################### 100.0%
>>> Adding ollama user to render group…
>>> Adding ollama user to video group…
>>> Adding current user to ollama group…
>>> Creating ollama systemd service…
>>> Enabling and starting ollama service…
>>> NVIDIA GPU installed.

root@ra-ubuntu24:~#

root@ra-ubuntu24:~# ollama –version
ollama version is 0.6.0

root@ra-ubuntu24:~#