Opera revolutioniert das Surfen mit lokalen LLMs: Internet-Sucht ade

Opera hat heute eine neue Funktion angekündigt, mit der Benutzer große Sprachvorlagen direkt auf ihren Computer herunterladen und verwenden können. Diese Funktion wurde zunächst für Opera One-Nutzer eingeführt, die Updates über den Entwickler-Stream erhalten. Jetzt wird es möglich sein, aus mehr als 150 Vorlagen aus über 50 verschiedenen Familien zu wählen, darunter Meta’s Llama, Google’s Gemma und Vicuna.

Die Vorteile der lokalen Verwendung von LLMs

Die lokale Verwendung von LLMs bietet den Benutzern zahlreiche Vorteile. Zunächst einmal ermöglicht sie den Zugriff auf eine große Auswahl an Modellen von Drittanbietern direkt im Browser, ohne dass Sie Online-Tools verwenden müssen. Darüber hinaus können lokal heruntergeladene Modelle auch offline getestet und verwendet werden, so dass die Benutzer effizienter arbeiten können, ohne auf eine stabile Internetverbindung angewiesen zu sein.

Laut Jan Standal, VP von Opera,„ bietetOpera zum ersten Mal Zugang zu einer großen Auswahl an LLMs von Drittanbietern direkt im Browser. Es ist zu erwarten, dass die Größe der Modelle schrumpfen wird, wenn sie für bestimmte Aufgaben spezialisiert werden.

Wie das Herunterladen und Verwenden von LLMs in Opera funktioniert

Um LLMs in Opera herunterzuladen und zu verwenden, müssen Sie sich für das Opera AI Feature Drops Programm anmelden, mit dem Sie eine Vorschau auf einige der neuen, auf künstlicher Intelligenz basierenden Funktionen erhalten. Derzeit verwendet Opera das Open-Source-Framework Ollama, um Sprachmodelle auf dem Computer des Benutzers auszuführen.

Die verfügbaren Modelle sind eine Auswahl aus der Ollama-Bibliothek, aber das Unternehmen hat angekündigt, dass in Zukunft auch Modelle aus anderen Quellen einbezogen werden. Es ist wichtig zu beachten, dass jede Variante der Vorlagen mehr als 2 GB Speicherplatz auf der lokalen Festplatte belegt. Es ist daher ratsam, den verfügbaren Speicherplatz zu überprüfen, um zu vermeiden, dass der Speicherplatz ausgeht.

Andere Optionen für die Verwendung von Sprachvorlagen

Wenn Sie Speicherplatz auf Ihrer lokalen Festplatte sparen möchten, gibt es auch andere Optionen für die Verwendung von Online-Sprachvorlagen. So gibt es beispielsweise mehrere Online-Tools wie Poe von Quora und HuggingChat, mit denen Sie verschiedene Sprachmodelle erkunden können, ohne sie auf Ihren Computer herunterladen zu müssen.

Weitere auf künstlicher Intelligenz basierende Funktionalitäten von Opera

Opera hat bereits im letzten Jahr damit begonnen, mitauf künstlicher Intell igenz basierenden Funktionen zu experimentieren. Im Mai startete das Unternehmen einen Assistenten namens Aria in der Seitenleiste des Browsers und führte ihn im August in der iOS-Version ein. Im Januar gab Opera bekannt, dass es an einem auf künstlicher Intelligenz basierenden Browser mit einer eigenen Engine für iOS arbeitet. Damit reagierte das Unternehmen auf die Forderung der EU-Gesetzgebung für den digitalen Markt (Digital Market Acts, DMA), dass Apple die WebKit-Engine für mobile Browser abschaffen soll.