Das Verrückte ist ja, dass es bisher kaum einen wirklich objektiv nachweisbaren Nutzen von dieser Art KI, den “generativen AI” und Large Language Models (LLMs) gibt. (Abgesehen vom Finden von Sicherheitslücken in Software).
Anders als die vielen “traditionellen” KI Algorithmen, die handgeschriebene Adressen auf Briefen erkennen, Reiserouten und Verkehrsverbindungen planen, Gleichungen mit Suchverfahren lösen, Prozesse und Logistik optimieren, Röntgenbilder auf Anzeichen von Krebs screenen, und so fort.
Modelle veralten ziemlich schnell und gerade in der IT & Programmierung dreht sich die Welt weiter - es kommen ständig neue Tools, Frameworks und Programmiersprachen raus. Wir brauchen also regelmäßig Updates wenn wir moderne Software schreiben wollen, da macht es keinen Sinn mit zwei Jahre alten Modellen zu arbeiten.
Es ist also komplett scheißegal wieviel Strom dein Macbook zieht, wenn Alibaba entscheidet, dass sie kein neues qwen mehr raushauen, weil ihnen das zu teuer ist, bist du am Arsch.
Auch hier würde ich mal die Kirche im Dorf lassen. Niemand außer, nennen wir es mal Enthusiasten, wird sich ein Macbook Pro mit 128GB RAM für ~8.000€ kaufen, um darauf große lokale Modelle laufenzulassen.
Hab’ ich auch nicht behauptet. Nach dem Platzen der Blase ist jedoch sehr fraglich, wer überhaupt noch Modelle trainieren wird und zu welchen Kosten. Und ich habe mich speziell auf Auswüchse wie Loops bezogen, bei denen Agenten sozusagen endlos im Kreis laufen, sowas kannst du auf lokaler Hardware nicht gut machen und im Rechenzentrum kostet es eigentlich richtig viel Geld.
Das größte Problem an dem ganzen KI-Hype ist, dass die tatsächlichen Kosten bei den großen Anbietern subventioniert werden. Nur dadurch, dass jemand für uns das Geld ausgibt, konnten solche Dinge wie agentic coding, loops und “Hey, ich schreib mal eine ganze Software komplett in eine andere Programmiersprache um” überhaupt erst entstehen. Und ich bleibe dabei: Vieles davon wird wieder verschwinden, die wenigsten werden mehrere tausend Euro für einen glorifizierten Chatbot ausgeben, um umfangreiche Software zu schreiben.
Ich wiederhole mich, aber wir werden sehen, welche Arbeitsweisen nach dem Platzen der Blase noch übrigbleiben werden - und einiges von dem was du angesprochen hast, wird finanziell nicht mehr machbar sein (z.B. das komplette Neuschreiben von Software).
Ja, was dachtest du was ich mit Oberklasse Hardware meine? Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden. Insbesondere wenn die Blase platzt, wird es einen Überfluss an Speicher geben. Dass Apple 16 GB Speicher in jedes iPhone packt hätte vor kurzem auch niemand geglaubt.
Korrekt, die werden stattdessen einige hundert Euro ausgeben, um umfangreiche Software neu zu schreiben. Speicherhersteller sind noch dabei Kapazitäten aufzubauen, die verschwinden nicht wieder.
Auf Reddit würde ich jetzt den RemindMe Bot bemühen, mir in 5 Jahren Bescheid zu geben.
Genau, und Apple wird aus der puren Güte ihres Herzens die Macbooks in Zukunft auch nur noch für 1/4 des aktuellen Preises anbieten, sodass jeder lokale KI betreiben kann.
Dein Nutzername ist auch wirklich Programm, besonders weil du auf meine restlichen Kritikpunkte ja gar nicht wirklich eingehst. 08/15 KI-Booster.
Welche Kritikpunkte findest du besonders behandelnswert? “Niemand wird das mehr machen, das wird sich nicht lohnen, dann guckst du in die Röhre” – das sind Prognosen. Nichts davon ist eingetroffen. Was eingetroffen ist: Modelle die vor ein paar Jahren noch “Frontier” waren gibt es heute zum herunterladen. Ebenso gibt es Open Source Modelle. Das Trainieren ist zuerst eine Funktion der Hardware die man da draufwirft. Das wird nicht jeder morgens vor dem Frühstück machen, aber du baust dir idR auch keinen Linuxkernel selbst. Das wird jemand übernehmen.
Und Apple macht natürlich nichts aus der Güte des Herzens sondern weil die Konkurrenz sie zwingt. Siehe diverse sog. AI Modelle für Laptops, KI Fokussierte Workstations (die von AMD sogar nur 4k, echter schnapper) etc pp.
Wir werden sehen was passiert. Ich denke das setzt sich weiter durch und dann stehst du da uns redest dir ein, dass ausgerechnet diese Anwendungsfälle ja nicht das waren, was du gemeint hattest und ja eigentlich garkeine KI sind.