Technologie-Wende

"Die eigentliche Funktion von ChatGPT ist etwas bizarr Einfaches. Alles, was es zu tun versucht, ist [nachdem] Sie ihm eine Aufforderung oder ein Stück Text gegeben haben. Sein Ziel ist es, diesen Text fortzusetzen, und das tut es, indem es im Wesentlichen ein Wort nach dem anderen hinzufügt. Sie haben (als Beispiel) die Katze saß auf dem... eingegeben. Und es wird versuchen herauszufinden, was das nächste Wort sein könnte. Vielleicht ist es "Matte", vielleicht ist es "Sofa", es könnten viele verschiedene Dinge sein. Wie findet es das nächste Wort heraus? Nun, im Grunde genommen hat es ein paar Milliarden Seiten gelesen, etwa 4 Milliarden Seiten aus dem Internet.

Das ist der größte Teil des öffentlich zugänglichen Webs. Und es hat auch einen Haufen Bücher gelesen und den Text im Web und in Büchern und so weiter gesehen. Und es hat dort wahrscheinlich Unmengen von Beispielen für den Satz die Katze saß auf der Matte gesehen. Es weiß also, dass es all diese Beispiele gesehen hat, und es gibt einen statistischen Durchschnittswert an, der besagt, dass das nächste Wort wahrscheinlich Matte sein wird.

Und genau das wird es einem sagen. Und das Problem ist, dass es nicht genug Daten im Web gibt, um für jeden Satz, den man eingibt, sagen zu können, was das nächste Wort sein wird, nur auf der Grundlage der Statistiken dessen, was bereits im Web steht. Man braucht also eine Art Modell, eine Möglichkeit, aus dem, was man im Web gesehen hat, zu extrapolieren, was das nächste Wort wahrscheinlich sein wird.

Und das Erstaunliche ist, dass wir keine harte wissenschaftliche Erklärung dafür geben können, warum es funktioniert. Beginnen wir mit der Idee der neuronalen Netze. Diese ganze mathematische Konstruktion der neuronalen Netze stellt sich als etwas heraus, bei dem die Art und Weise, wie es aus dem, was es bereits gesehen hat, extrapoliert, der Art und Weise ähnelt, wie wir Menschen zu extrapolieren scheinen.

Mit anderen Worten: Die Wörter, die es produziert, sind ähnlich wie die, die ein Mensch produzieren könnte. Sie erscheinen einem Menschen vernünftig. Die Tatsache, dass es weitermachen kann und einen ganzen Aufsatz mit mehreren tausend Wörtern produzieren kann und dass er weiterhin Sinn ergibt, ist eine sehr interessante Sache. Ich glaube nicht, dass wir wirklich genau verstehen, warum das funktioniert. Die Tatsache, dass es nicht vom Weg abkommt, ist eine nicht-triviale Sache."

John hier wieder. In gewissem Sinne ist ChatGPT einfach nur rohe Gewalt. Es hat mehr Wörter gelesen und sich gemerkt als jeder Mensch es kann, und es kann analysieren, welche Wörter am häufigsten zusammengehören. Aber wie kommt es dazu, lange Aufsätze zu schreiben, die tatsächlich Sinn ergeben? Das wissen nicht einmal die Experten. Die Ergebnisse sind mitunter bizarr, amüsant und sogar falsch. Die Faktenüberprüfung ist noch nicht Teil dieser Systeme. Aber das wird bald der Fall sein, und dann können sie bestimmte Dinge viel besser machen als Menschen.

Müssen wir das fürchten? Bestimmte Berufe werden automatisiert werden, vielleicht schon bald. Die industrielle Revolution hatte ähnliche Auswirkungen und ersetzte viele Bauern und Handwerker. Doch es dauerte Jahrzehnte, bis sich die Technologie verbreitete. Die Menschen passten sich an. Diesen Luxus werden wir dieses Mal nicht haben. Es wird etwas chaotisch zugehen, und die Ludditen von heute werden nach der Regierung schreien, um ihre Arbeitsplätze zu schützen. Ich bin sicher, dass wir auf der SIC im nächsten Jahr (20. Jahrestag!) mehr über KI sprechen werden. Ist es möglich, dass die KI eines Tages mit uns sprechen wird? Das wäre lustig und möglicherweise erhellend.


Die Fusion ist 30 Jahre entfernt und kommt bald

Der alte Witz besagt, dass die Kernfusion immer noch 30 Jahre entfernt ist, und das war auch in den letzten 30 Jahren so. Nur jetzt ist sie es nicht mehr.

Ich habe meinen Freund Britt Harris gebeten, ein Panel über Energie und Technologie zusammenzustellen. Britt Harris leitet den Pensionsfonds der University of Texas/Texas A&M (den größten Stiftungsfonds des Landes), war CEO von Bridgewater, hat mehrere Auszeichnungen erhalten und wird ständig als einer der fünf besten Vermögensanleger der Welt eingestuft. Er steht buchstäblich im Zentrum des Spinnennetzes von Technologie und Investitionen. Ich werde seine Präsentation zusammen mit Terry Keeley über die Entwicklung der Energiebranche in einem ausführlichen Artikel behandeln, da dies mehr als nur ein paar Absätze erfordert.

Ich möchte jedoch kurz die Präsentation von Matt Trevithick über Fusionsenergie hervorheben. Matt leitet jetzt eine VC-Firma namens DCVC. Bevor er zu DCVC kam, war Matt Trevithick COO von Google Quantum AI und gehörte zu dem Team, das erstmals nachwies, dass ein Quantencomputer den leistungsstärksten Supercomputer der Welt bei einer bestimmten Aufgabe übertreffen kann. Matt leitete auch ein Forschungsprogramm im Bereich der Fusionsenergie und förderte die Investition von Alphabet in Commonwealth Fusion Systems.

Ja, er ist im Allgemeinen der klügste Mann im Raum. Matt wies darauf hin, dass die Kernfusion nicht mehr 30 Jahre entfernt ist. Sehen wir uns einige Zitate aus seinem Vortrag an:

"[Die Fusionsforschung] hat sich in aller Stille vollzogen, es wurden etwa 5 Milliarden Dollar in die inzwischen etwa 100 Fusionsunternehmen investiert, das meiste davon in den letzten paar Jahren.