Gemini Nano: Ein Meilenstein für Lokale KI auf Chrome Canary

‍

Einführung

Gemini Nano, das neuste KI-Modell von Google, hat kürzlich Wellen geschlagen, indem es ermöglicht, KI-Funktionalitäten lokal auf Geräten zu nutzen. Derzeit ist Gemini Nano nur über Chrome Canary zugänglich, eine experimentelle Version des Google Chrome Browsers. Obwohl es sich noch in der Testphase befindet, bietet es eine Vielzahl von Vorteilen und könnte die Art und Weise, wie wir mit KI interagieren, grundlegend verändern.

Was ist Gemini Nano?

Gemini Nano ist eine abgespeckte Version des größeren Gemini-Modells, die speziell für die lokale Ausführung konzipiert wurde. Es verwendet dieselben Datensätze wie seine Vorgänger und behält die multimodalen Fähigkeiten bei, jedoch in einer kleineren Form. Ursprünglich für Chrome 126 versprochen, ist es nun in Chrome Canary verfügbar, was darauf hindeutet, dass ein offizieller Release bevorsteht.

Vorteile der Lokalen Nutzung

Gemini Nano bietet zahlreiche Vorteile, wenn es lokal ausgeführt wird:

- Privatsphäre: Durch die lokale Datenverarbeitung müssen Daten das Gerät nicht verlassen, was eine zusätzliche Sicherheitsschicht bietet.
- Geschwindigkeit und Reaktionsfähigkeit: Daten müssen nicht an einen Server gesendet werden, was schnellere Interaktionen ermöglicht.
- Zugänglichkeit: Entwickler können umfangreiche Sprachmodelfähigkeiten zu Anwendungen hinzufügen, ohne dass ständig eine Internetverbindung erforderlich ist.

Was ist Chrome Canary?

Chrome Canary ist die experimentellste Version des Google Chrome Browsers, die vor allem für Entwickler und Technikbegeisterte gedacht ist. Diese Version enthält die neuesten Funktionen und APIs, die noch nicht vollständig getestet wurden. Canary wird täglich mit den neuesten Änderungen aktualisiert und kann neben anderen Chrome-Versionen ausgeführt werden. Es ist für Windows, macOS und Android verfügbar.

Besondere Merkmale von Chrome Canary

- Enthält alle Funktionen des normalen Chrome sowie experimentelle Funktionalitäten.
- Früheste Veröffentlichung, die vor den Dev-, Beta- und Stable-Versionen steht.
- Kann instabil sein und abstürzen, da es sich um eine experimentelle Version handelt.

Gemini Nano Lokal mit Chrome Canary Starten

Um Gemini Nano lokal mit Chrome Canary zu verwenden, befolgen Sie diese Schritte:

1. Laden Sie Chrome Canary herunter und richten Sie es ein. Stellen Sie sicher, dass die Sprache auf Englisch (Vereinigte Staaten) eingestellt ist.
2. Geben Sie in die Adressleiste chrome://flags ein.
3. Setzen Sie die folgenden Flags:
  - 'Enables optimization guide on device' auf Enabled BypassPerfRequirement
  - 'Prompt API for Gemini Nano' auf Enabled
4. Starten Sie Chrome neu.
5. Warten Sie, bis Gemini Nano heruntergeladen ist. Um den Status zu überprüfen, navigieren Sie zu chrome://components und stellen Sie sicher, dass die Optimization Guide On Device Model Version 2024.6.5.2205 oder höher anzeigt. Falls nicht, klicken Sie auf 'Nach Updates suchen'.

Nachdem diese Schritte abgeschlossen sind, können Sie Gemini Nano für Chat-Anwendungen erkunden. Obwohl das Modell vereinfacht ist, stellt es einen bedeutenden Fortschritt dar, indem es Entwicklern den Zugang zu einem lokalen LLM (Large Language Model) für Inferenz ermöglicht.

Fazit

Gemini Nano, jetzt verfügbar auf Chrome Canary, ist ein großer Schritt nach vorne für lokale KI. Die Datenverarbeitung erfolgt auf dem Gerät, was die Privatsphäre erhöht und die Geschwindigkeit verbessert. Diese fortschrittliche Technologie wird dadurch auch für eine breitere Nutzerbasis zugänglich. Entwicklern und Technikbegeisterten bietet Gemini Nano eine neue Möglichkeit, KI auszuprobieren und weiterzuentwickeln. Dies trägt zur Schaffung einer stärkeren und effizienteren lokalen Tech-Community bei und zeigt, wie die Zukunft unabhängiger digitaler Projekte aussehen könnte.

Bibliographie

https://writingmate.ai/blog/access-to-gemini-nano-locally  
https://dejanmarketing.com/chrome-gemini-nano-offline-private-ai/  
https://github.com/whitphx/streamlit-webrtc/issues/1213  
https://x.com/ericmigi/status/1805984628970271195