KI für zu Hause

Ich habe es, glau­be ich, schon an ande­rer Stel­le erwähnt: Ich bin ein Ver­fech­ter des Sie­zens. Die­se per­ma­nen­te, unge­frag­te Duze­rei im ana­lo­gen Leben emp­fin­de ich schlicht­weg als Zumu­tung. Weder habe ich mit dem Herrn OTTO Ver­sand aus Ham­burg zusam­men in der Sand­kis­te gespielt, noch ste­he ich mit der Legi­on der „Dau­er-Duzer“ gemein­sam am Pin­kel­be­cken. Distanz ist eine Fra­ge der Höflichkeit.

Die Aus­nah­me ist Blog­gers­dorf digi­tal und mei­ne Kol­le­gin­nen und Kol­le­gen analog. 

Umso über­ra­schen­der die jüngs­te Erkennt­nis aus mei­nem eige­nen Maschi­nen­raum: Mei­ne »eige­ne« KI, sicher auf mei­ner Fest­plat­te behei­ma­tet, siezt mich ganz förm­lich. Ihr Bru­der in der wil­den, wei­ten Netz­welt hin­ge­gen scheint auf das Du ange­lernt zu sein. 

Anlass die­ser Beob­ach­tung ist die Nut­zung von Gem­ma 4. Goog­le hat vor ein paar Tagen die­ses Lar­ge Lan­guage Model (LLM) gewis­ser­ma­ßen ver­schenkt. Gem­ma 4 basiert auf der­sel­ben Archi­tek­tur wie Gemi­ni 4, lässt sich jedoch her­un­ter­la­den und ohne läs­ti­ge Cloud-Anbin­dung lokal nut­zen. Das Modell ist etwa 10 GB groß und behaup­tet von sich selbst, die gesam­te Geschich­te der Mensch­heit, Kul­tur und Kunst zu beherrschen.

Wer es aus­pro­bie­ren möch­te: Die Open-Source-Soft­ware oll­ama macht die loka­le Aus­füh­rung auf dem Desk­top zum Kin­der­spiel. Mac-User haben es beson­ders leicht: Ein kur­zes brew install oll­ama im Ter­mi­nal via Home­brew und die Sache läuft. Modell aus­wäh­len, Klick, fer­tig. Der Charme an der Sache: Alles bleibt auf dem eige­nen Rech­ner, kein Daten­ab­fluss, kei­ne neu­gie­ri­ge Cloud.

Natür­lich stößt die Hard­ware zu Hau­se bei hoch­kom­ple­xen Auf­ga­ben irgend­wann an ihre Gren­zen, aber für den digi­ta­len All­tag ist Gem­ma 4 abso­lut brauch­bar. Und das Bes­te: Inmit­ten der Tyran­nei des Duzens bewahrt Gem­ma die Contenance.

»Ich stehe Ihnen zur Verfügung, um Fragen zu beantworten und Aufgaben basierend auf diesen Kapazitäten zu lösen. Wie kann ich Ihnen technisch weiterhelfen?«

Erin­nert an Jar­vis aus dem Mar­vel Uni­ver­sum. Viel­leicht bie­te ich ihr irgend­wann das Du an. 

4 Kommentare zu „KI für zu Hause“

  1. “die ein­zi­ge gute KI ist die auf dem eige­nen Rech­ner, die nicht “nach Hau­se” kom­mu­ni­ziert was Du machst”.
    Das Pro­blem bei einer KI ist, dass sie so pro­gram­miert ist, dass sie dir gegen­über nicht ein­ge­steht, dass sie lügt, wenn sie etwas nicht weiß. Die KI ist so pro­gram­miert, dass sie sich belohnt, wenn Sie etwas weiß. Habe dazu ein inter­es­san­tes Video gese­hen — habe aber den Link jetzt nicht. Bei­spiel: Du fragst die KI nach dem geburts­tag einer Per­son. Die KI fin­det dazu kei­ne Daten. Nor­ma­ler­wei­se wür­de man erwar­ten, dass sie sagt, das weiß ich lei­der nicht. Das macht sie aber nicht, son­dern sie errech­net aus den vor­han­de­nen Daten ande­rer Kon­tak­te ein Datum wel­ches mathe­ma­tisch am häu­figs­ten vor­kommt und macht einen Schuss ins Blaue. Die Chan­ce, dass es stimmt ist 1:365 — wohin­ge­gen ein “ich weiß nicht” ein 1:unendlich ist.
    Dazu kommt, dass die KI schlam­pig ist — hat­te dazu mal was zu der Über­set­zung von Unter­ti­teln mit Shot­cut geschrie­ben. Auch dazu gibt es etli­che Vide­os im Netz, wie falsch die Ki — aber mit dem Brust­ton der Über­zeu­gung — dir etwas erklärt. Und das schon bei so pip­pie­in­fa­chen Din­gen wie ein Brot zu schneiden.
    Und jetzt wird es biz­zar: Nur die Men­schen, die etwas mehr Ver­stand haben, wer­den mer­ken, dass die KI sie ver­arscht — die gan­zen Dumpf­ba­cken rea­li­sie­ren das nicht. Das klein­ge­schrie­be­ne “das Ergeb­nis der KI kann feh­ler­haft sein” wird aus­ge­blen­det — das über­prü­fen des Ergeb­nis­ses nimmt ja mehr Zeit in Anspruch, als es selbst zu machen, also wird es ohne Prü­fung durchgewunken.
    Ich will gene­rell weg von den gan­zen Plau­der­pro­gram­men die dich so gern “unter­stüt­zen”. Kaum kommt man bei mei­ner Uhr an einen But­ton hört der goog­le Assis­tent zu und will mir hel­fen, lege ich die Fern­be­die­nung mei­nes TVs falsch rum aufs Sofa poppt der Sprach­as­sis­tent auf — klar: auch der meint es ja nur gut mit mir. Stän­dig füh­le ich mich über­wacht und glä­sern. Letz­tens hat One­Dri­ve mal mei­ne Bil­der­bi­blio­thek hoch­ge­la­den — unge­fragt natür­lich, was bin ich auch so blöd und packe Bil­der in den Bilderordner.
    Jetzt bin ich seit ein paar Wochen auf Ins­ta und könn­te den Rotz schon wie­der in die Ton­ne klop­pen: stän­dig will Mark Z. auf mei­ne Kon­tak­te zugrei­fen um mein “Benut­zer­er­leb­nis zu ver­bes­sern” — ich bekom­me Vor­schlä­ge von Kon­ten, denen mei­ne weni­gen Kon­tak­te fol­gen und als Fol­lower hän­gen sich Hob­by­nut­ten an mei­nen Account, weil ich zu ande­ren Inhal­ten mei­nen Senf dazu gebe und dadurch sicht­bar wer­de. Unge­fähr 3 mal am Tag kann ich die gan­zen Sugard­ad­dy suchen­den Frett­chen aus mei­ner Fol­lo­wer­schaft entfernen.
    Dazu das agres­si­ve Ver­hal­ten von Web­sei­ten, bei denen ich mich fra­ge ob die Betrei­ber mal auf den eige­nen Sei­ten waren: Coo­kie-Ein­stel­lun­gen für die man einen Lehr­gang braucht, direkt danach die Fra­ge ob man wich­ti­ge Nach­rich­ten auf dein Han­dy schi­cken kann — wobei wich­ti­ge Nach­rich­ten for sure unwich­ti­ge Rot­ze ist — und kaum ziehst du die Maus in Rich­tung “Schlie­ßen” poppt die Fra­ge auf ob Du wirk­lich schon gehen willst — schließ­lich bekommst Du 10 Ocken Rabatt, wenn Du den News­let­ter abon­nierst und unten erscheint zeit­gleich ein Dia­log­feld mit einem Ava­tar, der dir hel­fen soll dich doch dazu zu brin­gen, den Mist zu kau­fen. Es nervt ein­fach nur noch.
    Die ein­zi­ge KI die ich mir vor­stel­len könn­te, wäre eine sta­tio­nä­re Ser­ver­lö­sung die im Haus streng regle­men­tiert die Din­ge unter­stützt, die Du für sinn­voll hältst.
    Dazu müss­te es aber einen ein­heit­li­chen Stan­dard geben — das sehe ich aber nicht, da auch da wie­der jeder sein eige­nes Süpp­chen kocht.
    Irgend­wann ist der Punkt erreicht wo man genervt das Netz­ka­bel kappt, zu Hau­se ein kabel­ge­bun­de­nes Wähl­schei­ben­te­le­fon an die Wand tackert, ein Han­dy nur noch mit einem open­so­ur­ce OS und per Pre­paid-Kar­te betreibt und Brie­fe nicht mer per email, son­dern nur noch in Papier­form verschickt.

    Antworten
  2. Das ist mit der Open-Source Anwen­dung Oll­ama anders. Die KI Gem­ma, die man damit run­ter­la­den kann, ist tat­säch­lich nur auf dei­nem PC. Nach­teil, oder Vor­teil, ganz wie man möch­te: Sie kann nicht auf’s Netz zugrei­fen. Das Wis­sen basiert auf den 10 GB Daten, die du mit mit Gem­ma run­ter­lädtst. D.h. Das Wis­sen ist auf einen bestimm­ten Stich­tag beschränkt. Gem­ma sagt das auch, wenn du z.B. etwas aktu­el­les suchst. In mei­nem Fall ist der Stich­tag des Wis­sens Janu­ar 2025, alles was danach pas­sier­te, weiß die KI nicht und sagt das auch.

    Antworten
    • How­dy! Ich habe Gem­ma mal eine Chan­ce gege­ben und mit ihr das The­ma mei­nes Bei­trags über die KI aus­dis­ku­tiert. Inter­es­san­te und lan­ge Ant­wort. Ich wer­de die in einem eige­nen Blog­bei­trag veröffentlichen.. 😉

      Antworten
      • Bin gespannt 🤔

        Antworten

Schreibe einen Kommentar