ChatGPT peut-il être un "virus qui a été diffusé" ?

A cette époque, Altman décrivait le potentiel de OpenAI dans un langage qui semblait étrange à certains. Altman a déclaré, par exemple, que l'opportunité offerte par l'intelligence artificielle générale - une intelligence artificielle capable de résoudre des problèmes aussi bien qu'un humain - est si incompréhensiblement énorme que si OpenAI S'il parvenait à le casser, l'équipe pourrait "peut-être capter toutes les valeurs futures de l'univers". Il a déclaré que la société "va devoir ne pas publier de recherche" car elle est si puissante. Lorsqu'on lui a demandé si OpenAI coupable d'avoir semé la peur, Elon Musk, le co-fondateur de l'équipe, a appelé à plusieurs reprises toutes les organisations développant l'IA à réglementer — Altman a parlé des dangers de aucune penser aux "conséquences sociales" lorsque "vous construisez quelque chose avec une courbe exponentielle".

Le public a ri à divers moments de la conversation, ne sachant pas à quel point il fallait prendre Altman au sérieux. Cependant, maintenant plus personne ne rit. Bien que les machines ne soient pas encore aussi intelligentes que les humains, les technologie Quoi OpenAI a publié dans le monde depuis est suffisamment proche pour que certains critiques craignent que cela puisse être notre chute (et une technologie encore plus sophistiquée serait en route).

En fait, bien que les gros utilisateurs disent que pas si intelligent el ChatGPT, modélisez cela OpenAI mis à la disposition du grand public la semaine dernière, est ainsi capable de répondre pVous demandez en tant que personne que les professionnels de diverses industries ont du mal à traiter les implications. Les éducateurs, par exemple, se demandent comment ils pourront distinguer l'écriture originale des essais générés par algorithme qu'ils sont tenus de recevoir, et cela peut éviter le logiciel anti-plagiat.

Paul Kedrosky n'est pas un éducateur en soi, c'est un économiste, un capital-risqueur et un membre du MIT qui se qualifie de "normal frustré avec un penchant pour la réflexion sur les risques et les conséquences imprévues dans les systèmes complexes". Mais il fait partie de ceux qui s'inquiètent soudain pour notre avenir collectif, fr Twitter Il a commenté : « Dommage OpenAI a largué cette bombe nucléaire de poche effrénée sur une société qui n'était pas prête. Kedrosky a écrit : "De toute évidence, je pense que ChatGPT (et ses semblables) devrait être retiré immédiatement. Et, s'il est un jour réintroduit, uniquement avec des restrictions strictes."

Sur certaines des préoccupations de Kedrosky et pourquoi il pense OpenAI il est à l'origine de ce qu'il considère comme "le changement le plus perturbateur que l'économie américaine ait connu depuis 100 ans", et pas dans le bon sens.

Question : ChatGPT sur le marché. Qu'est-ce qui a déclenché votre réaction sur Twitter ?

PK : J'ai joué avec ces interfaces utilisateur conversationnelles et ces services d'intelligence artificielle dans le passé et c'est évidemment un grand pas en avant. Et ce qui m'a particulièrement préoccupé ici, c'est la brutalité désinvolte de celui-ci, avec des conséquences massives pour un certain nombre d'activités différentes. Ce ne sont pas seulement les plus évidents, comme la rédaction de dissertations au lycée, mais dans presque tous les domaines où il existe une grammaire, c'est-à-dire une manière organisée de s'exprimer. Cela pourrait être du génie logiciel, des dissertations de lycée, des documents juridiques. Tous sont facilement mangés par cette bête vorace et recrachés sans compensation pour ce qui a été utilisé pour l'entraîner.

J'ai entendu un collègue de l'UCLA qui m'a dit qu'ils n'avaient aucune idée de ce qu'il fallait faire des essais à la fin du trimestre actuel, où ils en recevaient des centaines par cours et des milliers par département, car ils n'avaient plus la moindre idée de ce qui est faux et ce qui ne l'est pas. Donc, faire cela avec tant de désinvolture, comme quelqu'un me l'a dit aujourd'hui, rappelle un soi-disant pirate informatique qui trouve un bogue dans un produit largement utilisé, puis le signale au développeur avant que le grand public ne le sache afin que le développeur puisse patcher votre produit et nous n'avons pas de dévastation massive et les réseaux électriques ne tombent pas en panne. C'est le contraire, où un virus a été libéré dans la nature sans se soucier des conséquences.

Question : Vous vous sentez comme si vous pouviez manger le monde.

Certains pourraient dire : "Eh bien, était-ce la même chose lorsque l'automatisation est arrivée dans les usines automobiles et que les travailleurs de l'automobile ont été licenciés ?" Mais c'est très différent. Ces technologies d'apprentissage spécifiques s'auto-catalysent ; ils apprennent des demandes. Ainsi, les robots d'une usine de fabrication, tout en perturbant et en créant des conséquences économiques incroyables pour les personnes qui y travaillent, ne se sont pas simplement retournés et ont commencé à absorber tout ce qui se passait à l'intérieur de l'usine, se déplaçant secteur par secteur, alors que ce n'est pas exactement ce à quoi nous pouvons nous attendre, cela peut arriver.

Question : Musc à gauche OpenAI partiellement par désaccords sur le développement de l'entreprise, a-t-il déclaré en 2019, et a longtemps parlé de l'IA comme d'une menace existentielle. Mais les gens se sont plaints qu'il ne savait pas de quoi il parlait. Nous sommes maintenant confrontés à cette technologie puissante, et on ne sait pas qui intervient pour y remédier.

Je pense que ça va commencer dans beaucoup d'endroits à la fois, dont la plupart seront très maladroits, et les gens se moqueront d'eux. Mais malheureusement, nous nous sommes embarqués dans quelque chose avec des conséquences considérables. Donc, de la même manière que la FTC exigeait que les personnes qui bloguaient il y a des années aient des liens d'affiliation et en tirent de l'argent, je pense qu'à un niveau trivial, les gens seront obligés de divulguer que nous n'avons rien écrit de tout cela. Tout cela est généré par une machine ».

Je crois aussi que nous allons voir de nouveaux arguments pour la procès en cours contre Microsoft et OpenAI pour violation du droit d'auteur dans le cadre de nos algorithmes d'apprentissage automatique de formation. Je pense qu'il va y avoir un problème plus important que le DMCA (Digital Millennium Copyright Act, 1998) concernant ce service.

Et je pense qu'il y a un potentiel de poursuites et de règlements partiels concernant les conséquences des services, qui, comme vous le savez, prendront probablement trop de temps et n'aideront pas assez de gens, mais je ne vois pas comment nous n'en aurons pas fini avec ces technologies.

Question : Quelle est la réflexion au MIT ?

Andy Mc Afee et son groupe là-bas sont plus optimistes et ont une vision plus orthodoxe selon laquelle chaque fois que nous voyons des perturbations, d'autres opportunités sont créées, les gens sont mobiles, se déplaçant d'un endroit à l'autre et d'un métier à l'autre, et nous ne devrions pas être si têtus que nous croyons que cette évolution particulière de la technologie est celle autour de laquelle nous ne pouvons pas muter et migrer. Et je pense que c'est généralement vrai.

Mais la leçon des cinq dernières années en particulier a été que ces changements peuvent prendre beaucoup de temps. Le libre-échange, par exemple, est l'une de ces expériences incroyablement perturbatrices pour l'ensemble de l'économie, et nous nous sommes tous dit, en tant qu'économistes qui regardaient cela, que l'économie s'adapterait et que les gens en général bénéficieraient de prix plus bas. Ce que personne n'avait prévu, c'est que quelqu'un organiserait toutes les personnes en colère et élirait Donald Trump. Il y a donc cette idée que nous pouvons anticiper et prédire quelles seront les conséquences, mais nous ne le pouvons pas.

Question : Vous avez commenté la rédaction de dissertations pour le lycée et le collège. On a déjà demandé aux théoriciens si ce serait du plagiat d'utiliser ChatGPT pour écrire un article.

Le but d'écrire un essai est de montrer que vous pouvez penser, donc cela court-circuite le processus et va à l'encontre du but. Encore une fois, en termes de conséquences et d'externalités, si on ne peut pas laisser les gens faire leurs devoirs parce qu'on ne sait plus s'ils trichent ou non, cela veut dire que tout doit se passer en classe et doit être encadré. Nous ne pouvons rien ramener à la maison. Plus de choses doivent être faites oralement, et qu'est-ce que cela signifie? Cela veut dire que l'école est beaucoup plus chère, beaucoup plus artisanale, beaucoup plus petite, et au moment précis où nous essayons de faire le contraire. Les conséquences pour l'enseignement supérieur sont dévastatrices en termes de fourniture effective d'un service.

Que pensez-vous de l'idée de revenu de base universel, ou permettant à chacun de participer à la ganancias de l'IA ?

Je suis un défenseur beaucoup moins fort que je ne l'étais avant COVID. La raison en est que COVID, en un sens, était une expérience avec un revenu de base universel. Nous avons payé des gens pour qu'ils restent à la maison et ils ont trouvé QAnon. Je suis donc très inquiet de ce qui se passe lorsque les gens n'ont pas à monter dans une voiture, à conduire quelque part, à faire un travail qu'ils détestent et à revenir à la maison, parce que le diable trouve du travail pour les mains oisives, et il y aura beaucoup de de mains oisives et de beaucoup de malice.