Zuletzt aktualisiert am 5. April 2024 von Luca Koch
Der Internet-Browser-Provider Opera hat angekündigt, als erster bedeutender Browser eingebaute Unterstützung für lokale Große Sprachmodelle (Large Language Models, LLMs) zu bieten. Das in Oslo ansässige Unternehmen führt experimentelle Unterstützung für 150 Varianten lokaler LLMs ein, die etwa 50 Modellfamilien abdecken, darunter Mixtral von Mistral AI, Llama von Meta, Gemma von Google und Vicuna.
Lokale LLMs: Ein neuer Ansatz für Datenschutz und Effizienz
Jan Standal, VP bei Opera, erläutert die Vorteile der Integration lokaler LLMs: "Lokale LLMs ermöglichen es, Anfragen direkt auf dem eigenen Gerät zu verarbeiten, ohne Daten an einen Server senden zu müssen. Dies erleichtert den Zugang zu lokaler KI und ermöglicht es unseren Nutzern, ihre Anfragen lokal, vollständig privat oder sogar offline zu verarbeiten." Ein weiterer Vorteil lokaler Modelle ist die Eliminierung von Verzögerungen bei der Kommunikation mit externen Servern, was die Antwortzeit beschleunigt.
Verfügbarkeit und Zukunftsaussichten
Diese Funktion ist im Entwickler-Stream von Opera One verfügbar und Teil des AI Feature Drops-Programms des Unternehmens für Frühnutzer. Es handelt sich um eine ergänzende Erweiterung zu Operas eigenem Aria AI-Dienst. Ob die integrierten lokalen LLMs ein fester Bestandteil der Hauptbrowser des Unternehmens werden, hängt von den Rückmeldungen der Early Adopter und den zukünftigen Entwicklungen in der KI ab.
Um eines der verfügbaren LLMs zu testen, müssen Nutzer auf die neueste Version von Opera Developer aktualisieren und das Feature aktivieren. Nach dem Herunterladen der Modellvariante ersetzt diese Aria, bis der Nutzer es wieder aktiviert oder ein neues Gespräch mit der KI beginnt. Für den Download der LLM-Varianten ist ein lokaler Speicherplatz von etwa 2-10 GB erforderlich.
Opera, das bereits durch eingebaute Funktionen wie seinen kostenlosen VPN, Ad-Blocker und Cashback-Dienst hervorsticht, könnte mit dem Zugang zu lokalen LLMs einen Vorteil in der zunehmend wettbewerbsorientierten KI-Landschaft erlangen. Aktuell hält Opera schätzungsweise 4,88 % des Browsermarktes in Europa und 3,15 % weltweit.