KI für zu Hause

Ich habe es, glau­be ich, schon an ande­rer Stel­le erwähnt: Ich bin ein Ver­fech­ter des Sie­zens. Die­se per­ma­nen­te, unge­frag­te Duze­rei im ana­lo­gen Leben emp­fin­de ich schlicht­weg als Zumu­tung. Weder habe ich mit dem Herrn OTTO Ver­sand aus Ham­burg zusam­men in der Sand­kis­te gespielt, noch ste­he ich mit der Legi­on der „Dau­er-Duzer“ gemein­sam am Pin­kel­be­cken. Distanz ist eine Fra­ge der Höflichkeit.

Die Aus­nah­me ist Blog­gers­dorf digi­tal und mei­ne Kol­le­gin­nen und Kol­le­gen analog. 

Umso über­ra­schen­der die jüngs­te Erkennt­nis aus mei­nem eige­nen Maschi­nen­raum: Mei­ne »eige­ne« KI, sicher auf mei­ner Fest­plat­te behei­ma­tet, siezt mich ganz förm­lich. Ihr Bru­der in der wil­den, wei­ten Netz­welt hin­ge­gen scheint auf das Du ange­lernt zu sein. 

Anlass die­ser Beob­ach­tung ist die Nut­zung von Gem­ma 4. Goog­le hat vor ein paar Tagen die­ses Lar­ge Lan­guage Model (LLM) gewis­ser­ma­ßen ver­schenkt. Gem­ma 4 basiert auf der­sel­ben Archi­tek­tur wie Gemi­ni 4, lässt sich jedoch her­un­ter­la­den und ohne läs­ti­ge Cloud-Anbin­dung lokal nut­zen. Das Modell ist etwa 10 GB groß und behaup­tet von sich selbst, die gesam­te Geschich­te der Mensch­heit, Kul­tur und Kunst zu beherrschen.

Wer es aus­pro­bie­ren möch­te: Die Open-Source-Soft­ware oll­ama macht die loka­le Aus­füh­rung auf dem Desk­top zum Kin­der­spiel. Mac-User haben es beson­ders leicht: Ein kur­zes brew install oll­ama im Ter­mi­nal via Home­brew und die Sache läuft. Modell aus­wäh­len, Klick, fer­tig. Der Charme an der Sache: Alles bleibt auf dem eige­nen Rech­ner, kein Daten­ab­fluss, kei­ne neu­gie­ri­ge Cloud.

Natür­lich stößt die Hard­ware zu Hau­se bei hoch­kom­ple­xen Auf­ga­ben irgend­wann an ihre Gren­zen, aber für den digi­ta­len All­tag ist Gem­ma 4 abso­lut brauch­bar. Und das Bes­te: Inmit­ten der Tyran­nei des Duzens bewahrt Gem­ma die Contenance.

»Ich stehe Ihnen zur Verfügung, um Fragen zu beantworten und Aufgaben basierend auf diesen Kapazitäten zu lösen. Wie kann ich Ihnen technisch weiterhelfen?«

Erin­nert an Jar­vis aus dem Mar­vel Uni­ver­sum. Viel­leicht bie­te ich ihr irgend­wann das Du an.