Kann ChatGPT ein „freigegebener Virus“ sein?

Damals beschrieb Altman das Potenzial von OpenAI in einer Sprache, die manchen seltsam vorkam. Altman sagte zum Beispiel, dass die Möglichkeiten mit künstlicher allgemeiner Intelligenz – Maschinenintelligenz, die Probleme ebenso lösen kann wie ein Mensch – so unfassbar enorm sind, dass wenn OpenAI Wenn es ihm gelänge, es zu knacken, könne das Team „vielleicht alle zukünftigen Werte im Universum erfassen“. Er sagte, das Unternehmen werde „keine Forschungsergebnisse veröffentlichen müssen“, weil es so mächtig sei. Auf die Frage ob OpenAI Elon Musk, der Mitbegründer des Teams, hat sich der Angsteinflößung schuldig gemacht und alle Organisationen, die KI entwickeln, wiederholt dazu aufgerufen regulieren – Altman sprach über die Gefahren von nicht Denken Sie an die "sozialen Folgen", wenn "Sie etwas mit einer Exponentialkurve bauen".

Das Publikum lachte an verschiedenen Stellen des Gesprächs und war sich nicht sicher, wie ernst es Altman nehmen sollte. Aber jetzt lacht niemand mehr. Maschinen sind zwar noch nicht so intelligent wie Menschen, aber die Technologie dass OpenAI der Welt seitdem veröffentlicht wurde, ist nah genug für einige Kritiker, um zu befürchten, dass dies unser Untergang sein könnte (und es wird berichtet, dass noch ausgefeiltere Technologie auf dem Weg ist).

In der Tat, obwohl Heavy User das sagen nicht so schlau el ChatGPT, modelliere das OpenAI letzte Woche der Öffentlichkeit zugänglich gemacht, ist so in der Lage, p zu beantwortenSie fragen als Person, dass Fachleute in einer Vielzahl von Branchen Schwierigkeiten haben, die Auswirkungen zu verarbeiten. Pädagogen fragen sich beispielsweise, wie sie Originaltexte von den algorithmisch generierten Aufsätzen unterscheiden können, die sie erhalten müssen, und wie sie dies vermeiden können Anti-Plagiat-Software.

Paul Kedrosky ist per se kein Pädagoge, er ist Ökonom, Risikokapitalgeber und Fellow am MIT, der sich selbst als „frustrierten Normalbürger mit einer Vorliebe dafür, über Risiken und unbeabsichtigte Folgen in komplexen Systemen nachzudenken“ bezeichnet. Aber er gehört zu denen, die sich plötzlich Sorgen um unsere gemeinsame Zukunft machen, und Twitter Er kommentierte: „Schade OpenAI ließ diese ungezügelte Taschen-Atombombe auf eine Gesellschaft fallen, die nicht bereit war.“ Kedrosky schrieb: „Offensichtlich bin ich der Meinung, dass ChatGPT (und seinesgleichen) sofort eingestellt werden sollte. Und wenn es jemals wieder eingeführt wird, nur mit strengen Einschränkungen."

Über einige von Kedroskys Bedenken und warum er denkt OpenAI es treibt das voran, was seiner Meinung nach die „störendste Veränderung ist, die die US-Wirtschaft seit 100 Jahren erlebt hat“, und das nicht auf eine gute Art und Weise.

Frage: ChatGPT auf den Markt bringen. Was hat Ihre Reaktion auf Twitter ausgelöst?

PK: Ich habe in der Vergangenheit mit diesen Conversational User Interfaces und KI-Diensten gespielt, und das ist offensichtlich ein großer Schritt weiter. Und was mich hier besonders beschäftigt hat, ist die beiläufige Brutalität, mit massiven Folgen für eine Reihe verschiedener Aktivitäten. Sie sind nicht nur die offensichtlichen, wie das Schreiben von Aufsätzen in der High School, sondern in fast jedem Bereich, in dem es eine Grammatik gibt, dh eine organisierte Art, sich auszudrücken. Das können Softwareentwicklung, Schulaufsätze, juristische Dokumente sein. Alle von ihnen werden von dieser gefräßigen Bestie leicht gefressen und wieder ausgespuckt, ohne dass sie dafür entschädigt werden, was auch immer verwendet wurde, um sie zu trainieren.

Ich habe von einem Kollegen an der UCLA gehört, der mir sagte, dass sie keine Ahnung haben, was sie mit den Aufsätzen am Ende des laufenden Semesters anfangen sollen, wo sie Hunderte pro Kurs und Tausende pro Abteilung bekommen, weil sie keine Ahnung mehr haben, was gefälscht ist und was nicht. Dies so beiläufig zu tun, wie mir heute jemand sagte, erinnert an einen sogenannten White-Hat-Hacker, der einen Fehler in einem weit verbreiteten Produkt findet und ihn dann dem Entwickler meldet, bevor die breite Öffentlichkeit davon erfährt, damit der Entwickler Ihr Produkt patchen kann und wir haben keine Massenverwüstung und keine Stromnetze, die ausfallen. Das Gegenteil ist der Fall, wenn ein Virus ohne Rücksicht auf die Folgen in die Wildnis entlassen wurde.

Frage: Sie haben das Gefühl, Sie könnten die Welt essen.

Einige mögen sagen: „Nun, war es genauso, als die Automatisierung in die Autofabriken kam und Autoarbeiter arbeitslos wurden? Aber das ist sehr unterschiedlich. Diese spezifischen Lerntechnologien sind selbstkatalysierend; Sie lernen aus Anfragen. Die Roboter in einer Fertigungsanlage, obwohl störend und mit unglaublichen wirtschaftlichen Folgen für die dort arbeitenden Menschen verbunden, drehten sich nicht einfach um und begannen, alles zu absorbieren, was in der Fabrik vor sich ging, und bewegten sich Sektor für Sektor, während das nicht genau so ist was wir erwarten können, es kann passieren.

Frage: Musk ist gegangen OpenAI teilweise durch Meinungsverschiedenheiten über die Entwicklung des Unternehmens, sagte er 2019 und spricht seit langem von KI als existenzieller Bedrohung. Aber die Leute beschwerten sich, dass er nicht wisse, wovon er rede. Wir sind jetzt mit dieser mächtigen Technologie konfrontiert, und es ist unklar, wer eingreift, um sie anzugehen.

Ich denke, es wird an vielen Orten gleichzeitig beginnen, von denen die meisten sehr klobig sein werden, und die Leute werden sich darüber lustig machen. Aber leider sind wir in etwas mit weitreichenden Konsequenzen geraten. Genauso wie die FTC von Leuten, die vor Jahren gebloggt haben, verlangte, Affiliate-Links zu haben und damit Geld zu verdienen, denke ich, dass die Leute auf einer trivialen Ebene gezwungen sein werden, offenzulegen, dass wir nichts von diesem Zeug geschrieben haben. Das alles wird von einer Maschine erzeugt“.

Ich glaube auch, dass wir neue Argumente für die sehen werden laufende Klage gegen Microsoft u OpenAI für Urheberrechtsverletzungen im Rahmen unserer Schulung von Machine-Learning-Algorithmen. Ich denke, dass es in Bezug auf diesen Dienst ein größeres Problem geben wird als das DMCA (Digital Millennium Copyright Act, 1998).

Und ich denke, es gibt das Potenzial für Klagen und Teilvergleiche bezüglich der Folgen der Dienste, die, wie Sie wissen, wahrscheinlich zu lange dauern und nicht genügend Menschen helfen werden, aber ich sehe nicht, wie wir damit nicht fertig werden sollen diese Technologien.

Frage: Was denkt man am MIT?

Andy McAfee und seine Gruppe dort sind optimistischer und haben eine orthodoxere Ansicht, dass jedes Mal, wenn wir Störungen sehen, andere Möglichkeiten geschaffen werden, Menschen mobil sind, von Ort zu Ort und von Beruf zu Beruf wechseln, und wir sollten nicht so stur sein, wie wir glauben dass diese besondere Entwicklung der Technologie diejenige ist, um die herum wir nicht mutieren und migrieren können. Und ich denke, das stimmt im Allgemeinen.

Aber gerade die letzten fünf Jahre haben gelernt, dass diese Veränderungen lange dauern können. Der Freihandel zum Beispiel ist eine dieser unglaublich störenden Erfahrungen für die gesamte Wirtschaft, und wir alle haben uns als Ökonomen gesagt, dass die Wirtschaft sich anpassen wird und die Menschen im Allgemeinen von niedrigeren Preisen profitieren werden. Was niemand erwartet hatte, war, dass jemand all die wütenden Leute organisieren und Donald Trump wählen würde. Es gibt also diese Idee, dass wir die Konsequenzen antizipieren und vorhersagen können, aber wir können es nicht.

Frage: Sie haben das Schreiben von Aufsätzen für die High School und das College kommentiert. Theoretiker wurden bereits gefragt, ob es ein Plagiat wäre, ChatGPT zu verwenden, um einen Artikel zu schreiben.

Der Zweck des Schreibens eines Aufsatzes besteht darin, zu zeigen, dass Sie denken können, was den Prozess kurzschließt und den Zweck zunichte macht. Nochmals, in Bezug auf Konsequenzen und Externalitäten: Wenn wir den Leuten keine Hausaufgaben geben können, weil wir nicht mehr wissen, ob sie schummeln oder nicht, bedeutet das, dass alles im Klassenzimmer passieren und überwacht werden muss. Wir dürfen nichts mit nach Hause nehmen. Es müssen mehr Dinge mündlich erledigt werden, und was bedeutet das? Das bedeutet, dass die Schule viel teurer, viel handwerklicher, viel kleiner ist, und genau im Moment versuchen wir, das Gegenteil zu tun. Die Folgen für die Hochschulbildung sind im Hinblick auf die tatsächliche Leistungserbringung verheerend.

Was halten Sie von der Idee des universellen Grundeinkommens bzw. der Teilhabe aller daran ganancias der KI?

Ich bin ein viel weniger starker Befürworter als vor COVID. Der Grund ist, dass COVID gewissermaßen ein Experiment mit einem universellen Grundeinkommen war. Wir haben die Leute bezahlt, damit sie zu Hause bleiben, und sie haben es sich ausgedacht QAn nicht. Deshalb bin ich sehr nervös darüber, was passiert, wenn Leute nicht in ein Auto steigen, irgendwohin fahren, einen Job machen müssen, den sie hassen, und wieder nach Hause kommen, weil der Teufel Arbeit für müßige Hände findet, und davon wird es jede Menge geben es von müßigen Händen und viel Unfug.