Das Verrückte ist ja, dass es bisher kaum einen wirklich objektiv nachweisbaren Nutzen von dieser Art KI, den “generativen AI” und Large Language Models (LLMs) gibt. (Abgesehen vom Finden von Sicherheitslücken in Software).

Anders als die vielen “traditionellen” KI Algorithmen, die handgeschriebene Adressen auf Briefen erkennen, Reiserouten und Verkehrsverbindungen planen, Gleichungen mit Suchverfahren lösen, Prozesse und Logistik optimieren, Röntgenbilder auf Anzeichen von Krebs screenen, und so fort.

  • brainwashed@feddit.org
    link
    fedilink
    arrow-up
    3
    arrow-down
    1
    ·
    3 months ago

    Niemand außer, nennen wir es mal Enthusiasten, wird sich ein Macbook Pro mit 128GB RAM für ~8.000€ kaufen, um darauf große lokale Modelle laufenzulassen.

    Ja, was dachtest du was ich mit Oberklasse Hardware meine? Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden. Insbesondere wenn die Blase platzt, wird es einen Überfluss an Speicher geben. Dass Apple 16 GB Speicher in jedes iPhone packt hätte vor kurzem auch niemand geglaubt.

    Vieles davon wird wieder verschwinden, die wenigsten werden mehrere tausend Euro für einen glorifizierten Chatbot ausgeben, um umfangreiche Software zu schreiben.

    Korrekt, die werden stattdessen einige hundert Euro ausgeben, um umfangreiche Software neu zu schreiben. Speicherhersteller sind noch dabei Kapazitäten aufzubauen, die verschwinden nicht wieder.

    Auf Reddit würde ich jetzt den RemindMe Bot bemühen, mir in 5 Jahren Bescheid zu geben.

    • lichtmetzger@discuss.tchncs.de
      link
      fedilink
      arrow-up
      1
      arrow-down
      1
      ·
      3 months ago

      Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden.

      Genau, und Apple wird aus der puren Güte ihres Herzens die Macbooks in Zukunft auch nur noch für 1/4 des aktuellen Preises anbieten, sodass jeder lokale KI betreiben kann.

      Dein Nutzername ist auch wirklich Programm, besonders weil du auf meine restlichen Kritikpunkte ja gar nicht wirklich eingehst. 08/15 KI-Booster.

      • brainwashed@feddit.org
        link
        fedilink
        arrow-up
        1
        ·
        3 months ago

        Welche Kritikpunkte findest du besonders behandelnswert? “Niemand wird das mehr machen, das wird sich nicht lohnen, dann guckst du in die Röhre” – das sind Prognosen. Nichts davon ist eingetroffen. Was eingetroffen ist: Modelle die vor ein paar Jahren noch “Frontier” waren gibt es heute zum herunterladen. Ebenso gibt es Open Source Modelle. Das Trainieren ist zuerst eine Funktion der Hardware die man da draufwirft. Das wird nicht jeder morgens vor dem Frühstück machen, aber du baust dir idR auch keinen Linuxkernel selbst. Das wird jemand übernehmen.

        Und Apple macht natürlich nichts aus der Güte des Herzens sondern weil die Konkurrenz sie zwingt. Siehe diverse sog. AI Modelle für Laptops, KI Fokussierte Workstations (die von AMD sogar nur 4k, echter schnapper) etc pp.

        Wir werden sehen was passiert. Ich denke das setzt sich weiter durch und dann stehst du da uns redest dir ein, dass ausgerechnet diese Anwendungsfälle ja nicht das waren, was du gemeint hattest und ja eigentlich garkeine KI sind.