Führt GPT O1 nur teure Selbstgespräche?

Interessanter Artikel in der NZZ: https://www.nzz.ch/meinung/strawberry-open-ai-verkauft-seine-neueste-ki-als-durchbruch-in-wirklichkeit-fuehrt-sie-nur-teure-selbstgespraeche-ld.1848624

“Stellen Sie sich vor, Sie vergeben eine Aufgabe an zwei Assistenten. Der eine soll sie ohne Zettel und Papier auf der Stelle lösen. Der andere soll zuerst eine Liste mit verschiedenen Vorgehensweisen und Zwischenschritten anlegen, mit zwei Kollegen Vor- und Nachteile erörtern und dann eine Lösung präsentieren. Wer wird wohl die besseren Resultate parat haben?”

“Um Nachdenken zu simulieren, hat Open AI dem neuen Modell eine Art inneren Monolog einprogrammiert. Das Modell teilt Fragen zum Beispiel in Unterkategorien auf, die es nacheinander erörtert. Das alles passiert, indem das Modell einen langen Text erzeugt, der den Nutzern verborgen bleibt. Nur das Fazit am Ende wird als Antwort herausgegeben. Es ist wenig überraschend, dass diese Antwort besser ist als jene des Modells ohne das Selbstgespräch.”

“Diese Mehrkosten gibt Open AI über zwei Schienen an die Nutzer weiter: Firmenkunden bezahlen für jedes erzeugte Wort von o1 einen viermal so hohen Preis wie beim Modell GPT-4. Dazu kommt, dass nicht nur die Wörter in der Antwort in Rechnung gestellt werden, sondern auch der ganze verborgene Text des Selbstgesprächs. Das treibt die Kosten noch weiter in die Höhe.”