Künstlich Intelligent

Mir gefällt Joes Beschreibung des Fortschritts als S-Kurve. Die steilen Anstiege weichen längeren Perioden der relativen Stabilität. Wir haben das bei vielen verschiedenen Technologien gesehen, und ich vermute, dass es bei der KI ähnlich sein wird. Wir werden Zeit haben, uns durch die Probleme durchzuwursteln. Das heißt aber nicht, dass wir keine Probleme haben werden.


Das Monster mit der Maske

Ben Hunt ist ein Mann mit vielen Talenten. In den letzten Jahren (Jahrzehnten?) hat er sich mit "Narrativen" befasst, also mit der Art und Weise, wie mächtige Leute mit bestimmten Absichten versuchen, nicht nur zu beeinflussen, was wir denken, sondern auch wie wir denken. Die neuesten generativen KI-Systeme erweisen sich als recht nützlich für die "Narrative-Unterstützer". Ben sagt, wir müssen KI als das erkennen, was sie ist. Er begann damit, diesen Cartoon zu zeigen.




Wir sehen eine hässliche Kreatur, die eine maskierte menschliche Gestalt hält, und schließlich ein glückliches, lächelndes kleines Gesicht. Was hat das zu bedeuten? Hier ist Ben:

"Generative KI ist ein Alien. Sie ist nicht irgendwie, irgendwie anders. Sie ist eine außerirdische Lebensform - aus meiner Sicht. Ich weiß nicht, ob sich hier noch jemand daran erinnert, dass David Bowie vor langer, langer Zeit, in den Anfängen des Internets, ein Interview gab. Und er wurde gefragt: 'Was ist das Internet?' und er sagte: 'Nun, es ist ein Alien.' Und er hatte völlig Recht. Und die generative KI ist diese Verkörperung der Außerirdischen.

Was ich damit meine, dass es ein Außerirdischer ist und dieses bizarre Monster, das hinter allem steckt, mit dem wir interagieren, mit ChatGPT und dergleichen, ist, dass es denkt und Informationen auf eine völlig unmenschliche Weise versteht. Es ist völlig unerkennbar für das, was wir glauben, dass unsere eigenen Gehirne tun. Ob es das ist, was unsere eigenen Gehirne tun oder nicht, ist eine andere Geschichte. Aber es ist unserem Denken völlig fremd und unbekannt.

Für uns ist es jedoch verständlich, dass es eine Art quasi-menschliche Maske gibt, die darüber gestülpt wird. Das ist die Feinabstimmung, die über das unüberwachte Lernen gelegt wird, das alles passiert und die Fremdheit der generativen KI ausmacht. Man hat also eine menschlich aussehende Maske vor dieses außerirdische Monster, diese außerirdische Kreatur, gehalten. Und dann kommt aus dem Mund der fein abgestimmten, menschlich aussehenden Maske die angenehmste Stimme der Welt. Und das ist die Verstärkung, die durch menschliches Feedback gelernt wird. Das ist der Teil, mit dem wir tatsächlich interagieren. Das ist der Teil, der unsere Fragen beantwortet, und zwar auf die hilfreichste Art und Weise.

Denn all das, die Masken, die dem unüberwacht lernenden außerirdischen Monster aufgesetzt werden, die direkte Interaktion, die Stimme, die wir hören - all das ist darauf ausgelegt, uns zu gefallen. Wenn Sie sonst nichts aus dieser Präsentation mitnehmen, dann die Erkenntnis, dass generative KI mit der Feinabstimmung und der Verstärkung durch menschliches Feedback, die sie zusätzlich erhält, so konzipiert ist, dass sie uns gefällt. Sie ist darauf ausgelegt, uns glücklich zu machen. Und das tut sie auch."

Erinnern Sie sich an Joes Bemerkung, dass KI eine statistische Maschine ist. Sie lernt statistisch gesehen, dass es in der Regel positive Rückmeldungen gibt, wenn man den Menschen die gewünschten Antworten gibt, und deshalb macht sie mehr davon. Die KI mit dem lächelnden Gesicht sorgt dafür, dass wir mit dem Ergebnis zufrieden sind, das die hässliche Kreatur außerhalb unserer Sichtweite produziert. Ob das Ergebnis korrekt ist, steht auf einem anderen Blatt.

Auch wenn diese Eigenschaft der KI bei bestimmten Anwendungen vielleicht nützlich ist, kann sie auch schief gehen. Systementwickler und "Ausbilder" arbeiten an diesem Problem. Den Systemen muss beigebracht werden, Wissen zu bewerten, zu wissen, was sie akzeptieren und was sie ablehnen sollen. Das ist schwierig, nicht zuletzt, weil die Systeme in einem Internet trainieren, in dem es viele falsche Informationen gibt.

Im Moment heißt die Antwort: Geduld. Wir alle müssen die künstliche Intelligenz als das betrachten, was sie ist: eine vielversprechende neue Technologie, die derzeit noch mit Fehlern behaftet ist. Sie wird sich verbessern, und zwar weit über das hinaus, was wir heute intellektuell begreifen können. Aber wir müssen über das fröhliche Gesicht hinausschauen und daran denken, dass die KI kein Mensch ist. Sie ist kein echter Mensch, auch wenn sie noch so gesprächig und liebenswürdig erscheint. Wir brauchen neue Wege, um mit diesen fremden Wesen zu interagieren. Ich bin zuversichtlich, dass wir das schaffen können. Aber in der Zwischenzeit sollten Sie alles überprüfen, was die KI sagt.


© John Mauldin
www.mauldineconomics.com


Dieser Artikel wurde am 24. Mai 2024 auf www.mauldineconomics.com veröffentlicht und exklusiv für GoldSeiten übersetzt.