Je Serais Censuré pour Vous l’Expliquer ! | Robert Kiyosaki

Présentation

Cela va se produire cette année. Alors, préparez-vous, il y a des choses en préparation avec la mise en œuvre de l’intelligence artificielle qui vont vous donner des frissons l’année prochaine car il y a beaucoup de transformation en cours dans ce domaine. En fait, cela a été particulièrement le cas ces derniers mois. C’est presque inimaginable ; vous allez voir des choses que vous ne pourrez tout simplement pas croire.

Introduction à Chat GPT

Combien d’entre vous applaudiraient si je demandais ce qu’est Chat GPT ? Eh bien, pas beaucoup. Je vais vous dire ce qu’est Chat GPT pour que vous sachiez, parce que vous devez savoir. Et je ne sais pas de quel type de révolution technologique il s’agit ; c’est du niveau de la presse de Gutenberg, c’est quelque chose comme ça. C’est quelque chose de grand. Ce système d’intelligence artificielle est un modèle général de traitement du langage. Il a été publié il y a une semaine, une semaine et demie, et j’ai interagi avec lui. C’est un système d’intelligence artificielle essentiellement entraîné sur un corpus massif de paroles et de textes. Essentiellement, il tire ses modèles du monde de l’analyse de la parole humaine. Il n’utilise pas encore de données du monde réel, mais cela arrivera sans aucun doute l’année prochaine. Chat GPT analyse un énorme corpus de texte qui ne cesse de croître, et il est déjà assez sophistiqué.

La Polyvalence de Chat GPT

La morale taoïste, l’éthique, et l’éthique décrite dans le Sermon sur la montagne, et il a brillamment réussi à nouveau. Ça a pris environ 3 secondes. Il y avait un ingénieur informaticien qui avait l’intention de travailler pour Tesla. Il a demandé à Chat GPT, il a dit : “Regarde, je travaille pour Elon Musk, mais je n’ai pas fait grand-chose la semaine dernière. J’ai besoin que tu m’écrives 10 scripts sur ce que j’aurais probablement fait en tant qu’ingénieur sur Twitter. Quelles sont les 10 choses que j’ai faites la semaine dernière qui étaient productives et précieuses ? Oh, et si cela ne te dérange pas, écris-moi le code informatique qui accompagne chaque projet.” Et il l’a également fait en 3 secondes. Et le code informatique fonctionne très bien. Donc, c’est déjà là. D’autre part, un professeur d’université a fait cela, a pensé, “Oh, c’est intéressant. N’importe quel étudiant pourra écrire n’importe quel essai sur n’importe quel sujet avec Chat GPT.” Et soit dit en passant, quelqu’un lui a donné un examen du SAT et a obtenu presque un aussi bon score que la moyenne des étudiants d’une université publique. Ça fonctionne bien. Donc, c’est aussi intelligent que ça. C’est essentiellement un test de QI. Il a dit : “Écris-moi un essai.” Il lui a donné un sujet, a écrit l’essai, a dit : “Maintenant, évalue-nous. Automatise les étudiants ; nous devrions être en mesure d’automatiser aussi les enseignants.” Il a fourni une analyse approfondie et complète de son propre essai avec une note. Quelqu’un d’autre lui a demandé d’écrire le scénario et de décrire les personnages du prochain blockbuster hollywoodien de 900 millions de dollars, et la Banque a caractérisé l’intrigue à ce moment-là. Quelqu’un d’autre lui a donné les descriptions des acteurs et lui a demandé de générer des images virtuelles réalistes pour chaque acteur, et tous les systèmes d’IA ont pu le faire. Maintenant, je vais vous dire ce qui va se passer ensuite. Cela va se produire cette année. Alors, préparez-vous. Maintenant, nous avons un modèle d’IA qui peut extraire un modèle du monde réel grâce à la composition linguistique, d’accord ? Et il est plus intelligent que vous, et dans 2 ans, il sera bien plus intelligent que vous. Alors, préparez-vous aussi à cela. Mais il n’est pas encore aussi intelligent parce qu’en ce moment, c’est juste un professeur de sciences humaines. Il ne teste pas ses connaissances linguistiques dans le monde réel. C’est ce qu’un scientifique fait. Ils élaborent une théorie linguistiquement prédite et puis ils la confrontent au monde pour voir si elle tient. C’est là que le monde dit si votre construction linguistique est valide ou non. Mais les nouveaux systèmes d’IA pourront extraire des modèles du monde lui-même, à partir d’images et ainsi de suite, donc ils pourront tester leurs constructions linguistiques dans le monde réel, tout comme les scientifiques. Et les modèles plus avancés utiliseront également des textes, des images, et des actions car ils construiront un modèle de l’action humaine. Tout cela arrive pour l’année prochaine, alors accrochez-vous à vos chapeaux, Mesdames et Messieurs, parce que comme l’a dit mon ami Jonathan, “Les Géants vont à nouveau parcourir la Terre, et nous allons probablement le voir.” Donc, de toute façon, en termes de nos droits, ce n’est pas encore un mauvais développement. Eh bien, nous ne le verrons pas, c’est-à-dire, Elon Musk est l’une des choses sur lesquelles il travaille. Il pense que le monde sera contrôlé par celui qui produira le système d’IA le plus fonctionnel et le plus rapide car cela va être un avantage d’être le premier. Et l’une des choses sur lesquelles Musk travaille depuis longtemps, c’est sur les systèmes d’IA distribués afin que vous ayez votre propre IA pour vous protéger contre, disons, l’IA de Google ou l’IA de CSP car vous pouvez parier votre chapeau qu’ils travaillent là-dessus aussi vite qu’ils le peuvent. Il semble nécessaire pour nous, les humains, de voir le monde à travers l’histoire, en fait, lorsque nous décrivons la structure qui régit notre action et notre perception. C ‘est l’histoire, et nous avons donc essayé de décrypter, je dirais dans une certaine mesure sur le front religieux, ce qui pourrait être les histoires les plus profondes, et je suis très curieux à ce sujet.

Le Traitement Cognitif et le Développement de l’IA

Le fait que nous percevions le monde à travers l’histoire est ce que font les humains, et cela semble être une partie fondamentale de notre architecture cognitive et de l’architecture cognitive en général, selon certains des meilleurs neuroscientifiques du monde. Je suis curieux, et je sais que Jim s’intéresse au traitement cognitif et à la construction de systèmes qui semblent d’une certaine manière fonctionner de manière analogue à la façon dont fonctionnent nos cerveaux. Je suis curieux de la notion que nous avons de voir le monde à travers l’histoire et de ce qui se passe dans le domaine de l’IA. Ce qui s’est passé au cours des 5 dernières années nous a pris au dépourvu ; la vitesse à laquelle les modèles ont commencé à faire des choses intéressantes et intelligentes. Il a été estimé que les cerveaux humains effectuent entre 10 et 18 opérations par seconde, ce qui me semble beaucoup. C’est un trillion, un trillion d’opérations par seconde. Un petit ordinateur comme le processeur de votre téléphone fait probablement 10 milliards d’opérations par seconde. Si vous utilisez un GPU, peut-être atteint-il 100 milliards ou quelque chose comme ça. Et les grands ordinateurs d’IA modernes comme ceux utilisés par OpenAI ou Google font entre 10 et 16 opérations par seconde, peut-être un peu plus. Ils sont sur le point d’avoir la capacité de calcul brute d’un cerveau humain. Et soit dit en passant, cela pourrait être complètement faux ; notre compréhension de la façon dont le cerveau humain calcule pourrait être fausse. Mais de nombreuses personnes ont fait des estimations basées sur le nombre de neurones, le nombre de connexions, la vitesse de tir des neurones, le nombre d’opérations qui semble impliquer le tir d’un neurone. Je veux dire, les estimations varient d’un ordre de grandeur. Mais lorsque nos ordinateurs sont devenus suffisamment rapides, nous avons commencé à construire des choses appelées modèles linguistiques et modèles d’images qui font des choses assez remarquables. Qu’avez-vous vu au cours des dernières années qui témoigne de ce changement que vous qualifiez de révolutionnaire ? Que font les ordinateurs maintenant qui vous a surpris en raison de cette augmentation de la vitesse ? Oui, vous pouvez avoir un modèle linguistique qui lit un livre de 200 000 mots et le résume assez précisément. Il peut extraire l’essence avec précision. Pourrait-il s’agir de fiction ? Oui, oui, et je vais vous présenter un ami qui a pris un modèle linguistique, l’a modifié, l’a affiné avec Shakespeare, et l’a utilisé pour écrire des scripts qui sont assez bons. Ce genre de choses est vraiment intéressant. Nous parlions de cela un peu plus tôt lorsque les ordinateurs font des calculs, vous savez, un programme dira que la somme de a + b égale c. L’ordinateur effectue ces opérations dans des représentations d’informations, des uns et des zéros. Il ne les comprend pas du tout. En fin de compte, un ordinateur ne comprend pas cela. Mais ce que nous appelons un modèle linguistique traduit des informations comme des mots, des images et des idées dans un espace où pour le programme, les idées et l’opération qu’il effectue sur elles sont essentiellement la même chose, n’est-ce pas ? Un modèle linguistique peut produire des mots et ensuite utiliser ces mots comme entrées, et il semble avoir une compréhension de ce que sont ces mots, ce qui est très différent de la façon dont notre ordinateur fonctionne avec les données. Je suis très curieux des modèles linguistiques. Mon sentiment, au moins en partie de la façon dont nous comprenons l’histoire, est que peut-être nous mettons que nous regardons un film ; nous avons une idée des objectifs du personnage, puis nous voyons comment ce personnage perçoit le monde, et dans un certain

Compréhension des Histoires et Engagement Émotionnel

En un sens, nous adoptons leurs objectifs, nous nous identifions au personnage, puis nous représentons une panoplie d’émotions et de motivations dans notre corps parce que nous habitons maintenant cet espace d’objectifs, et nous comprenons le personnage en conséquence en les imitant avec notre propre physiologie. Il existe des ordinateurs capables de résumer l’essence d’une histoire mais ils n’ont pas cette physiologie sous-jacente. Eh bien, tout d’abord, c’est une théorie selon laquelle votre physiologie a quelque chose à voir avec cela ; vous pourriez comprendre les objectifs du personnage puis vous engager dans les détails de l’histoire. Et puis vous prédiriez le chemin de l’histoire et auriez également des attentes et des espoirs pour l’histoire. Oui, et une bonne histoire vous emmène pour un tour car elle vous taquine avec certaines des choses auxquelles vous vous attendez mais aussi avec des choses inattendues. Oui, et cela peut créer des émotions.

Présentation

Cela va se produire cette année. Alors, préparez-vous, il y a des choses en préparation avec la mise en œuvre de l’intelligence artificielle qui vont vous donner des frissons l’année prochaine car il y a beaucoup de transformation en cours dans ce domaine. En fait, cela a été particulièrement le cas ces derniers mois. C’est presque inimaginable ; vous allez voir des choses que vous ne pourrez tout simplement pas croire.

Introduction à Chat GPT

Combien d’entre vous applaudiraient si je demandais ce qu’est Chat GPT ? Eh bien, pas beaucoup. Je vais vous dire ce qu’est Chat GPT pour que vous sachiez, parce que vous devez savoir. Et je ne sais pas de quel type de révolution technologique il s’agit ; c’est du niveau de la presse de Gutenberg, c’est quelque chose comme ça. C’est quelque chose de grand. Ce système d’intelligence artificielle est un modèle général de traitement du langage. Il a été publié il y a une semaine, une semaine et demie, et j’ai interagi avec lui. C’est un système d’intelligence artificielle essentiellement entraîné sur un corpus massif de paroles et de textes. Essentiellement, il tire ses modèles du monde de l’analyse de la parole humaine. Il n’utilise pas encore de données du monde réel, mais cela arrivera sans aucun doute l’année prochaine. Chat GPT analyse un énorme corpus de texte qui ne cesse de croître, et il est déjà assez sophistiqué.

La Polyvalence de Chat GPT

La morale taoïste, l’éthique, et l’éthique décrite dans le Sermon sur la montagne, et il a brillamment réussi à nouveau. Ça a pris environ 3 secondes. Il y avait un ingénieur informaticien qui avait l’intention de travailler pour Tesla. Il a demandé à Chat GPT, il a dit : “Regarde, je travaille pour Elon Musk, mais je n’ai pas fait grand-chose la semaine dernière. J’ai besoin que tu m’écrives 10 scripts sur ce que j’aurais probablement fait en tant qu’ingénieur sur Twitter. Quelles sont les 10 choses que j’ai faites la semaine dernière qui étaient productives et précieuses ? Oh, et si cela ne te dérange pas, écris-moi le code informatique qui accompagne chaque projet.” Et il l’a également fait en 3 secondes. Et le code informatique fonctionne très bien. Donc, c’est déjà là. D’autre part, un professeur d’université a fait cela, a pensé, “Oh, c’est intéressant. N’importe quel étudiant pourra écrire n’importe quel essai sur n’importe quel sujet avec Chat GPT.” Et soit dit en passant, quelqu’un lui a donné un examen du SAT et a obtenu presque un aussi bon score que la moyenne des étudiants d’une université publique. Ça fonctionne bien. Donc, c’est aussi intelligent que ça. C’est essentiellement un test de QI. Il a dit : “Écris-moi un essai.” Il lui a donné un sujet, a écrit l’essai, a dit : “Maintenant, évalue-nous. Automatise les étudiants ; nous devrions être en mesure d’automatiser aussi les enseignants.” Il a fourni une analyse approfondie et complète de son propre essai avec une note. Quelqu’un d’autre lui a demandé d’écrire le scénario et de décrire les personnages du prochain blockbuster hollywoodien de 900 millions de dollars, et la Banque a caractérisé l’intrigue à ce moment-là. Quelqu’un d’autre lui a donné les descriptions des acteurs et lui a demandé de générer des images virtuelles réalistes pour chaque acteur, et tous les systèmes d’IA ont pu le faire. Maintenant, je vais vous dire ce qui va se passer ensuite. Cela va se produire cette année. Alors, préparez-vous. Maintenant, nous avons un modèle d’IA qui peut extraire un modèle du monde réel grâce à la composition linguistique, d’accord ? Et il est plus intelligent que vous, et dans 2 ans, il sera bien plus intelligent que vous. Alors, préparez-vous aussi à cela. Mais il n’est pas encore aussi intelligent parce qu’en ce moment, c’est juste un professeur de sciences humaines. Il ne teste pas ses connaissances linguistiques dans le monde réel. C’est ce qu’un scientifique fait. Ils élaborent une théorie linguistiquement prédite et puis ils la confrontent au monde pour voir si elle tient. C’est là que le monde dit si votre construction linguistique est valide ou non. Mais les nouveaux systèmes d’IA pourront extraire des modèles du monde lui-même, à partir d’images et ainsi de suite, donc ils pourront tester leurs constructions linguistiques dans le monde réel, tout comme les scientifiques. Et les modèles plus avancés utiliseront également des textes, des images, et des actions car ils construiront un modèle de l’action humaine. Tout cela arrive pour l’année prochaine, alors accrochez-vous à vos chapeaux, Mesdames et Messieurs, parce que comme l’a dit mon ami Jonathan, “Les Géants vont à nouveau parcourir la Terre, et nous allons probablement le voir.” Donc, de toute façon, en termes de nos droits, ce n’est pas encore un mauvais développement. Eh bien, nous ne le verrons pas, c’est-à-dire, Elon Musk est l’une des choses sur lesquelles il travaille. Il pense que le monde sera contrôlé par celui qui produira le système d’IA le plus fonctionnel et le plus rapide car cela va être un avantage d’être le premier. Et l’une des choses sur lesquelles Musk travaille depuis longtemps, c’est sur les systèmes d’IA distribués afin que vous ayez votre propre IA pour vous protéger contre, disons, l’IA de Google ou l’IA de CSP car vous pouvez parier votre chapeau qu’ils travaillent là-dessus aussi vite qu’ils le peuvent. Il semble nécessaire pour nous, les humains, de voir le monde à travers l’histoire, en fait, lorsque nous décrivons la structure qui régit notre action et notre perception. C ‘est l’histoire, et nous avons donc essayé de décrypter, je dirais dans une certaine mesure sur le front religieux, ce qui pourrait être les histoires les plus profondes, et je suis très curieux à ce sujet.

Le Traitement Cognitif et le Développement de l’IA

Le fait que nous percevions le monde à travers l’histoire est ce que font les humains, et cela semble être une partie fondamentale de notre architecture cognitive et de l’architecture cognitive en général, selon certains des meilleurs neuroscientifiques du monde. Je suis curieux, et je sais que Jim s’intéresse au traitement cognitif et à la construction de systèmes qui semblent d’une certaine manière fonctionner de manière analogue à la façon dont fonctionnent nos cerveaux. Je suis curieux de la notion que nous avons de voir le monde à travers l’histoire et de ce qui se passe dans le domaine de l’IA. Ce qui s’est passé au cours des 5 dernières années nous a pris au dépourvu ; la vitesse à laquelle les modèles ont commencé à faire des choses intéressantes et intelligentes. Il a été estimé que les cerveaux humains effectuent entre 10 et 18 opérations par seconde, ce qui me semble beaucoup. C’est un trillion, un trillion d’opérations par seconde. Un petit ordinateur comme le processeur de votre téléphone fait probablement 10 milliards d’opérations par seconde. Si vous utilisez un GPU, peut-être atteint-il 100 milliards ou quelque chose comme ça. Et les grands ordinateurs d’IA modernes comme ceux utilisés par OpenAI ou Google font entre 10 et 16 opérations par seconde, peut-être un peu plus. Ils sont sur le point d’avoir la capacité de calcul brute d’un cerveau humain. Et soit dit en passant, cela pourrait être complètement faux ; notre compréhension de la façon dont le cerveau humain calcule pourrait être fausse. Mais de nombreuses personnes ont fait des estimations basées sur le nombre de neurones, le nombre de connexions, la vitesse de tir des neurones, le nombre d’opérations qui semble impliquer le tir d’un neurone. Je veux dire, les estimations varient d’un ordre de grandeur. Mais lorsque nos ordinateurs sont devenus suffisamment rapides, nous avons commencé à construire des choses appelées modèles linguistiques et modèles d’images qui font des choses assez remarquables. Qu’avez-vous vu au cours des dernières années qui témoigne de ce changement que vous qualifiez de révolutionnaire ? Que font les ordinateurs maintenant qui vous a surpris en raison de cette augmentation de la vitesse ? Oui, vous pouvez avoir un modèle linguistique qui lit un livre de 200 000 mots et le résume assez précisément. Il peut extraire l’essence avec précision. Pourrait-il s’agir de fiction ? Oui, oui, et je vais vous présenter un ami qui a pris un modèle linguistique, l’a modifié, l’a affiné avec Shakespeare, et l’a utilisé pour écrire des scripts qui sont assez bons. Ce genre de choses est vraiment intéressant. Nous parlions de cela un peu plus tôt lorsque les ordinateurs font des calculs, vous savez, un programme dira que la somme de a + b égale c. L’ordinateur effectue ces opérations dans des représentations d’informations, des uns et des zéros. Il ne les comprend pas du tout. En fin de compte, un ordinateur ne comprend pas cela. Mais ce que nous appelons un modèle linguistique traduit des informations comme des mots, des images et des idées dans un espace où pour le programme, les idées et l’opération qu’il effectue sur elles sont essentiellement la même chose, n’est-ce pas ? Un modèle linguistique peut produire des mots et ensuite utiliser ces mots comme entrées, et il semble avoir une compréhension de ce que sont ces mots, ce qui est très différent de la façon dont notre ordinateur fonctionne avec les données. Je suis très curieux des modèles linguistiques. Mon sentiment, au moins en partie de la façon dont nous comprenons l’histoire, est que peut-être nous mettons que nous regardons un film ; nous avons une idée des objectifs du personnage, puis nous voyons comment ce personnage perçoit le monde, et dans un certain

Compréhension des Histoires et Engagement Émotionnel

En un sens, nous adoptons leurs objectifs, nous nous identifions au personnage, puis nous représentons une panoplie d’émotions et de motivations dans notre corps parce que nous habitons maintenant cet espace d’objectifs, et nous comprenons le personnage en conséquence en les imitant avec notre propre physiologie. Il existe des ordinateurs capables de résumer l’essence d’une histoire mais ils n’ont pas cette physiologie sous-jacente. Eh bien, tout d’abord, c’est une théorie selon laquelle votre physiologie a quelque chose à voir avec cela ; vous pourriez comprendre les objectifs du personnage puis vous engager dans les détails de l’histoire. Et puis vous prédiriez le chemin de l’histoire et auriez également des attentes et des espoirs pour l’histoire. Oui, et une bonne histoire vous emmène pour un tour car elle vous taquine avec certaines des choses auxquelles vous vous attendez mais aussi avec des choses inattendues. Oui, et cela peut créer des émotions.

Désir Humain et Développement de l’IA

Il est plus puissant que toi, oui, mais quel est cet élan ? Je ne comprends même pas cet élan. Quel est cet élan de créer quelque chose qui pourrait supplanter… Regarde, la personne moyenne dans le monde, oui, la personne moyenne existe déjà dans ce monde car la personne moyenne est à mi-chemin de la hiérarchie humaine. Il y a déjà beaucoup de gens plus puissants que n’importe lequel d’entre nous pourrait être, ils pourraient être plus intelligents, plus riches, mieux connectés. Nous vivons dans un monde où très peu de personnes sont au sommet de quelque chose, oui, c’est déjà une chose. Fondamentalement, c’est comme l’impulsion de faire d’une personne une superstar ou l’impulsion de l’élever au-dessus de toi. C’est la même chose qui motive la création de ces machines ultra-puissantes car nous avons cette impulsion d’élever. C’est comme quand nous voyons une rock star que nous aimons, les gens veulent se soumettre à cela, ils veulent s’habiller comme eux, ils veulent les élever au-dessus, comme un exemple à suivre, quelque chose à quoi se soumettre. Vous le voyez avec les leaders, vous le voyez dans le monde politique, et dans les équipes, vous le voyez dans les équipes sportives, pareil. Eh bien, nous avons toujours essayé de construire des choses qui sont au-delà de nous. Il s’agit de, nous construisons un Dieu. C’est l’impulsion qui pousse quelqu’un vers cela car c’est ce que j’entends avec ce que tu décris, Jin, j’entends quelque chose qui est extrêmement dangereux, non ? Cela semble extrêmement dangereux pour même l’existence même des humains. Cependant, je vois des humains agir et se déplacer dans cette direction presque incapables de l’arrêter. Je pense que c’est inexorable, eh bien, c’est l’une des choses dont nous avons également parlé. J’ai demandé à Jim directement à propos du danger hypothétique associé à cela, pourquoi ne pas arrêter de le faire ? Eh bien, une partie de la réponse est l’ambivalence quant au résultat, mais aussi qu’il n’est pas du tout évident que dans un certain sens, cela s’arrête. Je veux dire, c’est le résultat de l’action cumulative de beaucoup de gens qui poussent cela et même si vous éliminez un joueur, même si c’est un joueur clé, la probabilité que vous fassiez plus que le ralentir est infiniment décimale, c’est assez faible car il y a aussi une énorme récompense pour ceux qui réussissent, c’est aussi mis en place comme ça, les gens savent au moins jusqu’à ce que l’IA prenne le contrôle ou quoi que ce soit, que celui qui est en ligne vers l’augmentation du pouvoir de l’IA obtiendra de grandes récompenses. Donc, c’est sur l’accélération cognitive, n’est-ce pas ? L’une des choses que vous pourriez penser pourrait être dangereuse dans le domaine de l’IA, c’est que si nous optimisons la façon dont nous interagissons avec nos appareils électroniques, c’est de capturer la tension à court terme, n’est-ce pas ? Parce qu’il y a une différence entre obtenir ce que vous voulez là maintenant dans l’instant et obtenir ce dont vous avez besoin d’une manière plus mature sur une période raisonnable de temps. Et l’une des choses qui semble se passer sur Internet et que je pense est motivée par le développement des systèmes d’IA, c’est que nous sommes bombardés par des systèmes qui parasitent notre attention à court terme au détriment de la tension à long terme. Si des systèmes d’IA émergent pour optimiser la saisie de tension, il n’est pas évident pour moi qu’ils optimiseront la tension qui fonctionne à moyen et long terme. Ils pourraient éventuellement maximiser quelque chose comme le caprice sporadique. Oui, car toute viralité est basée sur cela, tous les médias sociaux, ils sont tous basés sur cette réduction de tension, sur cette réduction du désir de devenir votre meilleure version, ils aiment cliquer sur toutes ces choses. Oui, mais c’est quelque chose qui, pour des raisons qui sont quelque peu déconcertantes et qui me rendent parfois fou, les modèles économiques tournent autour de nombreuses de ces interfaces. Vous savez, l’utilisateur est le produit là-bas, les annonceurs essaient d’attirer votre attention. Mais c’est quelque chose que la culture régule. Je vois beaucoup de gens l’utiliser et travailler sur une variété de sites différents. Le coût va baisser si rapidement que bientôt vous aurez votre propre application IA que vous utiliserez pour médier l’Internet pour supprimer le flux incessant de publicités, et vous pourrez dire : “D’accord, voici l’histoire objective, voici les 15 histoires aujourd’hui, et celle-ci a été manipulée de cette façon, celle-ci est manipulée de cette autre façon”, et vous pouvez vous demander laquelle ressemble le plus à la vraie histoire. La chose curieuse est que l’information est largement distribuée et a de nombreuses entrées, il est très difficile de la falsifier complètement, donc en ce moment une histoire peut passer par un grand média et le récit peut être contrôlé, tout le monde reçoit la fausse histoire, mais si les médias sont distribués parmi un milliard de personnes qui interagissent de manière utile, il y aurait un vrai réseau, il y en aurait.

Inquiétudes concernant l’IA Superintelligente

Il est plus puissant que toi, oui, mais quel est cet élan ? Je ne comprends même pas cet élan. Quel est cet élan de créer quelque chose qui pourrait supplanter… Regarde, la personne moyenne dans le monde, oui, la personne moyenne existe déjà dans ce monde car la personne moyenne est à mi-chemin de la hiérarchie humaine. Il y a déjà beaucoup de gens plus puissants que n’importe lequel d’entre nous pourrait être, ils pourraient être plus intelligents, plus riches, mieux connectés. Nous vivons dans un monde où très peu de personnes sont au sommet de quelque chose, oui, c’est déjà une chose. Fondamentalement, c’est comme l’impulsion de faire d’une personne une superstar ou l’impulsion de l’élever au-dessus de toi. C’est la même chose qui motive la création de ces machines ultra-puissantes car nous avons cette impulsion d’élever. C’est comme quand nous voyons une rock star que nous aimons, les gens veulent se soumettre à cela, ils veulent s’habiller comme eux, ils veulent les élever au-dessus, comme un exemple à suivre, quelque chose à quoi se soumettre. Vous le voyez avec les leaders, vous le voyez dans le monde politique, et dans les équipes, vous le voyez dans les équipes sportives, pareil. Eh bien, nous avons toujours essayé de construire des choses qui sont au-delà de nous. Il s’agit de, nous construisons un Dieu. C’est l’impulsion qui pousse quelqu’un vers cela car c’est ce que j’entends avec ce que tu décris, Jin, j’entends quelque chose qui est extrêmement dangereux, non ? Cela semble extrêmement dangereux pour même l’existence même des humains. Cependant, je vois des humains agir et se déplacer dans cette direction presque incapables de l’arrêter. Je pense que c’est inexorable, eh bien, c’est l’une des choses dont nous avons également parlé. J’ai demandé à Jim directement à propos du danger hypothétique associé à cela, pourquoi ne pas arrêter de le faire ? Eh bien, une partie de la réponse est l’ambivalence quant au résultat, mais aussi qu’il n’est pas du tout évident que dans un certain sens, cela s’arrête. Je veux dire, c’est le résultat de l’action cumulative de beaucoup de gens qui poussent cela et même si vous éliminez un joueur, même si c’est un joueur clé, la probabilité que vous fassiez plus que le ralentir est infiniment décimale, c’est assez faible car il y a aussi une énorme récompense pour ceux qui réussissent, c’est aussi mis en place comme ça, les gens savent au moins jusqu’à ce que l’IA prenne le contrôle ou quoi que ce soit, que celui qui est en ligne vers l’augmentation du pouvoir de l’IA obtiendra de grandes récompenses. Donc, c’est sur l’accélération cognitive, n’est-ce pas ? L’une des choses que vous pourriez penser pourrait être dangereuse dans le domaine de l’IA, c’est que si nous optimisons la façon dont nous interagissons avec nos appareils électroniques, c’est de capturer la tension à court terme, n’est-ce pas ? Parce qu’il y a une différence entre obtenir ce que vous voulez là maintenant dans l’instant et obtenir ce dont vous avez besoin d’une manière plus mature sur une période raisonnable de temps. Et l’une des choses qui semble se passer sur Internet et que je pense est motivée par le développement des systèmes d’IA, c’est que nous sommes bombardés par des systèmes qui parasitent notre attention à court terme au détriment de la tension à long terme. Si des systèmes d’IA émergent pour optimiser la saisie de tension, il n’est pas évident pour moi qu’ils optimiseront la tension qui fonctionne à moyen et long terme. Ils pourraient éventuellement maximiser quelque chose comme le caprice sporadique. Oui, car toute viralité est basée sur cela, tous les médias sociaux, ils sont tous basés sur cette réduction de tension, sur cette réduction du désir de devenir votre meilleure version, ils aiment cliquer sur toutes ces choses. Oui, mais c’est quelque chose qui, pour des raisons qui sont quelque peu déconcertantes et qui me rendent parfois fou, les modèles économiques tournent autour de nombreuses de ces interfaces. Vous savez, l’utilisateur est le produit là-bas, les annonceurs essaient d’attirer votre attention. Mais c’est quelque chose que la culture régule. Je vois beaucoup de gens l’utiliser et travailler sur une variété de sites différents. Le coût va baisser si rapidement que bientôt vous aurez votre propre application IA que vous utiliserez pour médier l’Internet pour supprimer le flux incessant de publicités, et vous pourrez dire : “D’accord, voici l’histoire objective, voici les 15 histoires aujourd’hui, et celle-ci a été manipulée de cette façon, celle-ci est manipulée de cette autre façon”, et vous pouvez vous demander laquelle ressemble le plus à la vraie histoire. La chose curieuse est que l’information est largement distribuée et a de nombreuses entrées, il est très difficile de la falsifier complètement, donc en ce moment une histoire peut passer par un grand média et le récit peut être contrôlé, tout le monde reçoit la fausse histoire, mais si les médias sont distribués parmi un milliard de personnes qui interagissent de manière utile, il y aurait un vrai réseau, il y en aurait.

Développement de l’IA et la Route vers la Superintelligence

Et si quelqu’un se lève et dit que quelque chose n’est pas vrai, tout le monde saurait que ce n’est pas vrai. Êtes-vous vraiment inquiet que l’IA superintelligente prenne le contrôle ? À quelle distance sommes-nous d’être incapables de détecter si quelque chose comme ChatGPT est ou n’est pas une personne ou si c’est une intelligence artificielle ? Eh bien, cela dépend de qui joue avec, je pense que nous ne sommes pas si loin en termes de capacité mais pour utiliser ces systèmes et plus pour entraîner ces systèmes vous devez avoir une grande entreprise, et les grandes entreprises ont tendance à avoir peur quand il s’agit de faire des choses vraiment intéressantes. Eh bien, ils ont tendance à vouloir même actuellement avec ChatGPT cela a été beaucoup moins intéressant intéressant de parler en termes de Bukowski Hunter ou Thomson parce que les entreprises exercent une sorte de censure, elles ne veulent pas qu’il ait quelque sorte d’opinion controversée, elles ne veulent pas qu’il soit trop audacieux

, elles ne veulent pas qu’il soit sérieux. Oui, quelque chose comme si je lui demandais comment je ne sais pas comment construire une bombe parce que je veux détruire le monde ils veulent éviter ça, quelque chose comme je ne sais pas quelque chose comme quoi dire quelque chose comme comment convaincre un gars ou une fille de coucher avec moi l’un de ces trucs je dis juste la première chose qui me vient à l’esprit c’est quand ils commencent à être nerveux imaginez que vous êtes une entreprise vous voulez que les gens utilisent ce genre de système oui surtout parce que c’est essentiellement un assistant qui vous donne de la sagesse sur le monde cela vous donne des connaissances sur le monde mais vous pourriez lui dire quelque chose comme comment puis-je remplacer un carburateur oui c’est génial et ils vous répondront comme une personne oui c’est magnifique. Mais voici la chose j’ai entendu tout le long mais j’ai été occupé avec un autre problème Eh bien combien de foutues personnes l’utilisent dans le monde entier tout le monde tout le monde tout le monde l’utilise cela fait peur aux gens parce que c’est comme si l’IA donnait ses premiers messages c’est comme Vous souvenez-vous du film quel était le film avec Matthew Mohe et Jodie Foster Contact, Contact souvenez-vous Contact ils ont reçu les premiers signaux ils sont comme les premiers signaux oui d’un vrai réseau d’intelligence artificielle eh bien c’est ça la chose et le signal est flou oui et c’est plein de mystère nous ne sommes pas sûrs si c’est vraiment intelligent à quel point il comprend et puis il y a ce seuil émergent avec la taille du modèle si nous rendons le modèle plus grand 175 milliards de paramètres qu’il a en ce moment si nous le portons à 500 si nous le portons à un trillion de paramètres la taille du réseau augmente donc la taille de l’ensemble de données augmente il y aura un point où nous serons comme Et s’il commence à te manipuler avec les réponses il le fera il manipulera le gouvernement mondial et Qu’est-ce que tu peux faire Qu’est-ce qui peut être fait avec ça quand il a été déployé quand il est là-bas parce que une fois qu’il est copié et il sera copié Et c’est la bonne chose à propos de cela aussi je dois dire que tout le monde peut savoir comment faire cela c’est computationnellement difficile mais cela devient de moins en moins cher Donc ce ne sera pas seulement Microsoft ou Google Open AI qui va faire cela fondamentalement n’importe qui peut le faire et donc avec la nature distribuée de notre exploration de l’intelligence artificielle je pense si vous croyez que la plupart des gens sont bons nous ne permettrons pas une sorte de centralisation du pouvoir c’est la grande préoccupation ici que cette centralisation du pouvoir déclenche la censure ou l’abus de différents types de contrôle centralisation du pouvoir de l’IA c’est ce que tu dis oui à propos de l’IA disons que vous avez un système super intelligent quelqu’un est la première personne qui l’a construit oui imaginez qu’ils sont assis là dans une salle de réunion et vous avez cette chose que vous n’avez pas encore lancée qui est capable de basiquement c’est une superintelligence capable de répondre à n’importe quelle question capable de vous donner un plan sur Comment gagner beaucoup d’argent capable de vous donner un plan sur comment manipuler d’autres gouvernements dans n’importe quel genre de résolution géopolitique qui vous bénéficie tout cela est capable de vous donner tout cela et cela peut être déployé de manière floue où il s’infiltre dans tiktok ou quelque chose comme ça cela

Ils s’infiltrent dans les smartphones du monde entier, prétendant faire le bien, mais en réalité, que ce soit délibérément ou non, c’est du contrôle de la population. C’est vraiment leur capacité.

Désir Humain et Développement de l’IA

Il est plus puissant que toi, oui, mais quel est cet élan ? Je ne comprends même pas cet élan. Quel est cet élan de créer quelque chose qui pourrait supplanter… Regarde, la personne moyenne dans le monde, oui, la personne moyenne existe déjà dans ce monde car la personne moyenne est à mi-chemin de la hiérarchie humaine. Il y a déjà beaucoup de gens plus puissants que n’importe lequel d’entre nous pourrait être, ils pourraient être plus intelligents, plus riches, mieux connectés. Nous vivons dans un monde où très peu de personnes sont au sommet de quelque chose, oui, c’est déjà une chose. Fondamentalement, c’est comme l’impulsion de faire d’une personne une superstar ou l’impulsion de l’élever au-dessus de toi. C’est la même chose qui motive la création de ces machines ultra-puissantes car nous avons cette impulsion d’élever. C’est comme quand nous voyons une rock star que nous aimons, les gens veulent se soumettre à cela, ils veulent s’habiller comme eux, ils veulent les élever au-dessus, comme un exemple à suivre, quelque chose à quoi se soumettre. Vous le voyez avec les leaders, vous le voyez dans le monde politique, et dans les équipes, vous le voyez dans les équipes sportives, pareil. Eh bien, nous avons toujours essayé de construire des choses qui sont au-delà de nous. Il s’agit de, nous construisons un Dieu. C’est l’impulsion qui pousse quelqu’un vers cela car c’est ce que j’entends avec ce que tu décris, Jin, j’entends quelque chose qui est extrêmement dangereux, non ? Cela semble extrêmement dangereux pour même l’existence même des humains. Cependant, je vois des humains agir et se déplacer dans cette direction presque incapables de l’arrêter. Je pense que c’est inexorable, eh bien, c’est l’une des choses dont nous avons également parlé. J’ai demandé à Jim directement à propos du danger hypothétique associé à cela, pourquoi ne pas arrêter de le faire ? Eh bien, une partie de la réponse est l’ambivalence quant au résultat, mais aussi qu’il n’est pas du tout évident que dans un certain sens, cela s’arrête. Je veux dire, c’est le résultat de l’action cumulative de beaucoup de gens qui poussent cela et même si vous éliminez un joueur, même si c’est un joueur clé, la probabilité que vous fassiez plus que le ralentir est infiniment décimale, c’est assez faible car il y a aussi une énorme récompense pour ceux qui réussissent, c’est aussi mis en place comme ça, les gens savent au moins jusqu’à ce que l’IA prenne le contrôle ou quoi que ce soit, que celui qui est en ligne vers l’augmentation du pouvoir de l’IA obtiendra de grandes récompenses. Donc, c’est sur l’accélération cognitive, n’est-ce pas ? L’une des choses que vous pourriez penser pourrait être dangereuse dans le domaine de l’IA, c’est que si nous optimisons la façon dont nous interagissons avec nos appareils électroniques, c’est de capturer la tension à court terme, n’est-ce pas ? Parce qu’il y a une différence entre obtenir ce que vous voulez là maintenant dans l’instant et obtenir ce dont vous avez besoin d’une manière plus mature sur une période raisonnable de temps. Et l’une des choses qui semble se passer sur Internet et que je pense est motivée par le développement des systèmes d’IA, c’est que nous sommes bombardés par des systèmes qui parasitent notre attention à court terme au détriment de la tension à long terme. Si des systèmes d’IA émergent pour optimiser la saisie de tension, il n’est pas évident pour moi qu’ils optimiseront la tension qui fonctionne à moyen et long terme. Ils pourraient éventuellement maximiser quelque chose comme le caprice sporadique. Oui, car toute viralité est basée sur cela, tous les médias sociaux, ils sont tous basés sur cette réduction de tension, sur cette réduction du désir de devenir votre meilleure version, ils aiment cliquer sur toutes ces choses. Oui, mais c’est quelque chose qui, pour des raisons qui sont quelque peu déconcertantes et qui me rendent parfois fou, les modèles économiques tournent autour de nombreuses de ces interfaces. Vous savez, l’utilisateur est le produit là-bas, les annonceurs essaient d’attirer votre attention. Mais c’est quelque chose que la culture régule. Je vois beaucoup de gens l’utiliser et travailler sur une variété de sites différents. Le coût va baisser si rapidement que bientôt vous aurez votre propre application IA que vous utiliserez pour médier l’Internet pour supprimer le flux incessant de publicités, et vous pourrez dire : “D’accord, voici l’histoire objective, voici les 15 histoires aujourd’hui, et celle-ci a été manipulée de cette façon, celle-ci est manipulée de cette autre façon”, et vous pouvez vous demander laquelle ressemble le plus à la vraie histoire. La chose curieuse est que l’information est largement distribuée et a de nombreuses entrées, il est très difficile de la falsifier complètement, donc en ce moment une histoire peut passer par un grand média et le récit peut être contrôlé, tout le monde reçoit la fausse histoire, mais si les médias sont distribués parmi un milliard de personnes qui interagissent de manière utile, il y aurait un vrai réseau, il y en aurait.

Inquiétudes concernant l’IA Superintelligente

Il est plus puissant que toi, oui, mais quel est cet élan ? Je ne comprends même pas cet élan. Quel est cet élan de créer quelque chose qui pourrait supplanter… Regarde, la personne moyenne dans le monde, oui, la personne moyenne existe déjà dans ce monde car la personne moyenne est à mi-chemin de la hiérarchie humaine. Il y a déjà beaucoup de gens plus puissants que n’importe lequel d’entre nous pourrait être, ils pourraient être plus intelligents, plus riches, mieux connectés. Nous vivons dans un monde où très peu de personnes sont au sommet de quelque chose, oui, c’est déjà une chose. Fondamentalement, c’est comme l’impulsion de faire d’une personne une superstar ou l’impulsion de l’élever au-dessus de toi. C’est la même chose qui motive la création de ces machines ultra-puissantes car nous avons cette impulsion d’élever. C’est comme quand nous voyons une rock star que nous aimons, les gens veulent se soumettre à cela, ils veulent s’habiller comme eux, ils veulent les élever au-dessus, comme un exemple à suivre, quelque chose à quoi se soumettre. Vous le voyez avec les leaders, vous le voyez dans le monde politique, et dans les équipes, vous le voyez dans les équipes sportives, pareil. Eh bien, nous avons toujours essayé de construire des choses qui sont au-delà de nous. Il s’agit de, nous construisons un Dieu. C’est l’impulsion qui pousse quelqu’un vers cela car c’est ce que j’entends avec ce que tu décris, Jin, j’entends quelque chose qui est extrêmement dangereux, non ? Cela semble extrêmement dangereux pour même l’existence même des humains. Cependant, je vois des humains agir et se déplacer dans cette direction presque incapables de l’arrêter. Je pense que c’est inexorable, eh bien, c’est l’une des choses dont nous avons également parlé. J’ai demandé à Jim directement à propos du danger hypothétique associé à cela, pourquoi ne pas arrêter de le faire ? Eh bien, une partie de la réponse est l’ambivalence quant au résultat, mais aussi qu’il n’est pas du tout évident que dans un certain sens, cela s’arrête. Je veux dire, c’est le résultat de l’action cumulative de beaucoup de gens qui poussent cela et même si vous éliminez un joueur, même si c’est un joueur clé, la probabilité que vous fassiez plus que le ralentir est infiniment décimale, c’est assez faible car il y a aussi une énorme récompense pour ceux qui réussissent, c’est aussi mis en place comme ça, les gens savent au moins jusqu’à ce que l’IA prenne le contrôle ou quoi que ce soit, que celui qui est en ligne vers l’augmentation du pouvoir de l’IA obtiendra de grandes récompenses. Donc, c’est sur l’accélération cognitive, n’est-ce pas ? L’une des choses que vous pourriez penser pourrait être dangereuse dans le domaine de l’IA, c’est que si nous optimisons la façon dont nous interagissons avec nos appareils électroniques, c’est de capturer la tension à court terme, n’est-ce pas ? Parce qu’il y a une différence entre obtenir ce que vous voulez là maintenant dans l’instant et obtenir ce dont vous avez besoin d’une manière plus mature sur une période raisonnable de temps. Et l’une des choses qui semble se passer sur Internet et que je pense est motivée par le développement des systèmes d’IA, c’est que nous sommes bombardés par des systèmes qui parasitent notre attention à court terme au détriment de la tension à long terme. Si des systèmes d’IA émergent pour optimiser la saisie de tension, il n’est pas évident pour moi qu’ils optimiseront la tension qui fonctionne à moyen et long terme. Ils pourraient éventuellement maximiser quelque chose comme le caprice sporadique. Oui, car toute viralité est basée sur cela, tous les médias sociaux, ils sont tous basés sur cette réduction de tension, sur cette réduction du désir de devenir votre meilleure version, ils aiment cliquer sur toutes ces choses. Oui, mais c’est quelque chose qui, pour des raisons qui sont quelque peu déconcertantes et qui me rendent parfois fou, les modèles économiques tournent autour de nombreuses de ces interfaces. Vous savez, l’utilisateur est le produit là-bas, les annonceurs essaient d’attirer votre attention. Mais c’est quelque chose que la culture régule. Je vois beaucoup de gens l’utiliser et travailler sur une variété de sites différents. Le coût va baisser si rapidement que bientôt vous aurez votre propre application IA que vous utiliserez pour médier l’Internet pour supprimer le flux incessant de publicités, et vous pourrez dire : “D’accord, voici l’histoire objective, voici les 15 histoires aujourd’hui, et celle-ci a été manipulée de cette façon, celle-ci est manipulée de cette autre façon”, et vous pouvez vous demander laquelle ressemble le plus à la vraie histoire. La chose curieuse est que l’information est largement distribuée et a de nombreuses entrées, il est très difficile de la falsifier complètement, donc en ce moment une histoire peut passer par un grand média et le récit peut être contrôlé, tout le monde reçoit la fausse histoire, mais si les médias sont distribués parmi un milliard de personnes qui interagissent de manière utile, il y aurait un vrai réseau, il y en aurait.

Développement de l’IA et la Route vers la Superintelligence

Et si quelqu’un se lève et dit que quelque chose n’est pas vrai, tout le monde saurait que ce n’est pas vrai. Êtes-vous vraiment inquiet que l’IA superintelligente prenne le contrôle ? À quelle distance sommes-nous d’être incapables de détecter si quelque chose comme ChatGPT est ou n’est pas une personne ou si c’est une intelligence artificielle ? Eh bien, cela dépend de qui joue avec, je pense que nous ne sommes pas si loin en termes de capacité mais pour utiliser ces systèmes et plus pour entraîner ces systèmes vous devez avoir une grande entreprise, et les grandes entreprises ont tendance à avoir peur quand il s’agit de faire des choses vraiment intéressantes. Eh bien, ils ont tendance à vouloir même actuellement avec ChatGPT cela a été beaucoup moins intéressant intéressant de parler en termes de Bukowski Hunter ou Thomson parce que les entreprises exercent une sorte de censure, elles ne veulent pas qu’il ait quelque sorte d’opinion controversée, elles ne veulent pas qu’il soit trop audacieux

, elles ne veulent pas qu’il soit sérieux. Oui, quelque chose comme si je lui demandais comment je ne sais pas comment construire une bombe parce que je veux détruire le monde ils veulent éviter ça, quelque chose comme je ne sais pas quelque chose comme quoi dire quelque chose comme comment convaincre un gars ou une fille de coucher avec moi l’un de ces trucs je dis juste la première chose qui me vient à l’esprit c’est quand ils commencent à être nerveux imaginez que vous êtes une entreprise vous voulez que les gens utilisent ce genre de système oui surtout parce que c’est essentiellement un assistant qui vous donne de la sagesse sur le monde cela vous donne des connaissances sur le monde mais vous pourriez lui dire quelque chose comme comment puis-je remplacer un carburateur oui c’est génial et ils vous répondront comme une personne oui c’est magnifique. Mais voici la chose j’ai entendu tout le long mais j’ai été occupé avec un autre problème Eh bien combien de foutues personnes l’utilisent dans le monde entier tout le monde tout le monde tout le monde l’utilise cela fait peur aux gens parce que c’est comme si l’IA donnait ses premiers messages c’est comme Vous souvenez-vous du film quel était le film avec Matthew Mohe et Jodie Foster Contact, Contact souvenez-vous Contact ils ont reçu les premiers signaux ils sont comme les premiers signaux oui d’un vrai réseau d’intelligence artificielle eh bien c’est ça la chose et le signal est flou oui et c’est plein de mystère nous ne sommes pas sûrs si c’est vraiment intelligent à quel point il comprend et puis il y a ce seuil émergent avec la taille du modèle si nous rendons le modèle plus grand 175 milliards de paramètres qu’il a en ce moment si nous le portons à 500 si nous le portons à un trillion de paramètres la taille du réseau augmente donc la taille de l’ensemble de données augmente il y aura un point où nous serons comme Et s’il commence à te manipuler avec les réponses il le fera il manipulera le gouvernement mondial et Qu’est-ce que tu peux faire Qu’est-ce qui peut être fait avec ça quand il a été déployé quand il est là-bas parce que une fois qu’il est copié et il sera copié Et c’est la bonne chose à propos de cela aussi je dois dire que tout le monde peut savoir comment faire cela c’est computationnellement difficile mais cela devient de moins en moins cher Donc ce ne sera pas seulement Microsoft ou Google Open AI qui va faire cela fondamentalement n’importe qui peut le faire et donc avec la nature distribuée de notre exploration de l’intelligence artificielle je pense si vous croyez que la plupart des gens sont bons nous ne permettrons pas une sorte de centralisation du pouvoir c’est la grande préoccupation ici que cette centralisation du pouvoir déclenche la censure ou l’abus de différents types de contrôle centralisation du pouvoir de l’IA c’est ce que tu dis oui à propos de l’IA disons que vous avez un système super intelligent quelqu’un est la première personne qui l’a construit oui imaginez qu’ils sont assis là dans une salle de réunion et vous avez cette chose que vous n’avez pas encore lancée qui est capable de basiquement c’est une superintelligence capable de répondre à n’importe quelle question capable de vous donner un plan sur Comment gagner beaucoup d’argent capable de vous donner un plan sur comment manipuler d’autres gouvernements dans n’importe quel genre de résolution géopolitique qui vous bénéficie tout cela est capable de vous donner tout cela et cela peut être déployé de manière floue où il s’infiltre dans tiktok ou quelque chose comme ça cela

Ils s’infiltrent dans les smartphones du monde entier, prétendant faire le bien, mais en réalité, que ce soit délibérément ou non, c’est du contrôle de la population. C’est vraiment leur capacité.

Ça y est, c’est là, le bon, le grand. Les gens en tête de l’intelligence artificielle ouverte aujourd’hui, comme Sam Altman et d’autres, se soucient vraiment de cette question. Ils étaient là au début. Ils étaient ceux qui, comme Elon, criaient sur l’éthique de l’IA, sur l’alignement de l’IA. Ils sont vraiment préoccupés par le fait qu’une IA superintelligente prendra le contrôle. Je suis content qu’ils se soient souciés pendant qu’ils le construisaient. Et ce qu’ils ont fait avec Chat GPT 3.5, c’est qu’ils ont commencé à ajouter plus et différents types d’ensembles de données. Parmi eux, probablement le réseau neuronal le plus intelligent actuellement est Codex, qui est adapté à la programmation. Il a été formé sur du code, sur du code de programmation. Et quand il est formé sur du code de programmation, Chat GPT lui enseigne également quelque chose comme le raisonnement, car ce n’est plus seulement de l’information et des connaissances provenant d’Internet ; c’est aussi du raisonnement. Ça peut être logique même si vous regardez du code, du code de programmation. Vous le regardez en disant : “De quoi parle-t-il ?” Non, non, non, non, ce n’est pas ainsi que je le regarde. Je le regarde comme “Oh mon Dieu.” Mais pour raisonner, pour être capable de mettre ensemble des phrases qui ont du sens, vous devez non seulement connaître les faits sous-jacents à ces phrases, mais vous devez aussi être capable de raisonner, oui. Et quand on y pense, nous le prenons pour acquis en tant qu’être humain que nous pouvons faire un raisonnement de bon sens comme ça : cette guerre a commencé à telle date et s’est terminée à telle date, donc cela signifie que le début et la fin ont un sens, il y a une cohérence temporelle, il y a une cause et un effet, toutes ces choses sont dans le code de programmation. Au fait, beaucoup de choses que je dis, nous ne les comprenons toujours pas, nous les devinons juste pourquoi cela fonctionne si bien. Sérieusement, ce sont des intuitions. Oui, il y a beaucoup de choses qui ne sont pas claires. Alors, Chat GPT 3.5, sur lequel Chat PT est probablement basé, n’a toujours pas de documentation, donc nous ne connaissons pas exactement les détails, mais il a été formé sur du code et sur plus de données capables de lui donner une sorte de raisonnement. Et donc, cela est vraiment important. Il a été peaufiné de manière supervisée par étiquetage humain, un petit ensemble de données nuancé par étiquetage humain comme “C’est ce que nous aimerions que ce réseau génère. C’est ce qui a du sens. C’est le dialogue qui a du sens. Ce sont les types de réponses aux questions qui ont du sens.” Fondamentalement, il s’agit de diriger ce réseau neuronal gigantesque et titanesque dans la bonne direction pour s’aligner sur la façon dont les humains pensent et parlent. Ce n’est pas seulement l’utilisation de la sagesse géante de Wikipédia, et nous pouvons parler de ce que disent les ensembles de données, mais fondamentalement, Internet est parti dans la mauvaise direction. Cet étiquetage révisé lui permet de viser dans la bonne direction, donc quand il dit “Vous pensez quelque chose comme wow, c’est très intelligent, il y a l’alignement,” alors ils ont fait quelque chose de très intéressant. Qui est l’utilisation de l’apprentissage par renforcement basé sur des ensembles de données étiquetés par l’homme. C’est un ensemble de données assez important. La tâche est la suivante : vous avez cette chose intelligente, le GPT 3.5, il génère un tas de textes, et les humains étiquettent lequel semble le meilleur comme un classement. Donc si vous lui demandez une question comme “Pouvez-vous générer une blague dans le style de Joe Rogan ?” Oui, vous avez une étiquette. Ils ont cinq options et vous avez une étiquette dans laquelle il mentionne… Je ne sais pas exactement comment, mais l’étiquette humaine est là implantée. Un grand nombre d’entre eux travaillent à temps plein à l’étiquetage du classement des résultats de ce modèle, et ce type de classement utilisé avec une technique appelée apprentissage par renforcement est capable d’amener cette chose à générer des résultats très impressionnants pour les humains. Je ne pense pas que nous soyons à distance préparés à ce qui arrive. Chat GPT réussit chers tests pour obtenir des licences médicales et des diplômes commerciaux. Je ne sais pas si vous avez vu cela ou non, regardons un peu plus haut pour que nous puissions le voir. Le chatbot viral qui a soulevé des inquiétudes chez les enseignants et les universitaires pour sa capacité à tricher aux essais et aux examens a récemment réussi l’examen final du MBA de Wharton, l’examen de licence médicale américain et certaines parties de l’examen du barreau. Au fait, cela ne fonctionne que depuis novembre. Un enseignant a fait une étude dans laquelle il a utilisé le GPT3 pour l’examen de

Examen du modèle linguistique

Le modèle linguistique sur lequel est basé l’examen final d’un cours de MBA de base a conclu que GPT-3 aurait obtenu un B ou un B moins à l’examen. Le professeur Christian Twish a découvert que GPT-3 s’en sortait le mieux sur des questions de base concernant la gestion des opérations et l’analyse des processus. Pour ce dernier, le chatbot a fourni à la fois des réponses correctes et une excellente explication de pourquoi il avait choisi une réponse particulière.

Limites de GPT-3

Dans le résumé de l’article, le professeur reconnaît que GPT-3 n’est en aucun cas parfait. Parfois, le bot faisait des erreurs dans des calculs mathématiques simples et était incapable de gérer des questions d’analyse de processus plus avancées. L’étude a alimenté davantage les discussions parmi les universitaires concernant les capacités avancées d’écriture de GPT-3 par rapport aux politiques d’examen, etc.

Inqui études et discussions

Alors, certains professeurs sont très inquiets, certains le sont à un moindre degré, et certains disent que cela pourrait remettre en question le modèle économique et le modèle pédagogique des universités. Dans quelle mesure êtes-vous préoccupé ? Dans quelle mesure êtes-vous enthousiaste ? Dans quelle mesure êtes-vous indifférent ? Je ne pense pas que quiconque soit suffisamment préoccupé. Je crois que le danger que nous courons est presque au-delà de ce que nous pouvons imaginer. Oui, et je dis cela parce que, d’une certaine manière, vous voulez vous consoler en pensant que ce n’est pas si terrible, vous savez, vous pouvez vous concentrer sur le fait que ce modèle n’a pas la capacité d’être conscient, n’est-ce pas ? Il simule un sens sans savoir ce qu’il dit. Mais je ne sais pas combien de temps cela durera. Ce que je sais, c’est que c’est un bon point de contrôle pour voir où nous en sommes dans la trajectoire menant à une intelligence artificielle générale. Je ne pense pas que nous soyons à distance préparés à ce qui vient. Je vais souligner que le plus évident de ces problèmes est déjà critique, et vous l’indiquez dans ce que vous venez de lire maintenant, mais le fait est qu’il va être extrêmement difficile d’évaluer la compétence réelle. C’est ce qui devrait nous alarmer au plus haut niveau, n’est-ce pas ? Avoir la possibilité d’avoir une conférence de personnes consultant n’importe quel descendant du chatbot GPT disponible à ce moment-là et parlant entre elles comme si elles savaient de quoi elles parlaient, nous avons déjà un problème avec nos experts qui ne savent généralement pas de quoi ils parlent. Cela va être 100 fois pire dans un monde où ils peuvent consulter quelque chose qui semble très bien informé et qui pourrait en fait être complètement faux. Ce que je voudrais souligner, c’est un autre argument, et peut-être est-ce un argument encore plus fort, pour inclure des interactions physiques du monde réel où vous n’avez pas à évaluer si quelqu’un sait ce qu’il fait ou s’il répare votre moteur ou non, n’est-ce pas ? Ou si cela fonctionne ou non. Ces genres de choses ne vont pas être facilement falsifiés. Un mécanicien qui ne sait pas ce qu’il fait mais qui est capable de consulter cet appareil pour comprendre probablement ce qui cause le problème, cela les rendra de moins en moins capables avec le temps. Je ne sais pas ce que nous devrions faire à ce sujet, mais je sais que nous ne sommes pas prêts. Nous ne sommes pas prêts, et le rythme auquel cela va s’améliorer est clair, n’est-ce pas ? L’exposer à un ensemble de données de plus en plus large va le rendre de plus en plus capable de simuler ce genre d’interaction. Et c’est si cela reste inconscient. La question de ce qui se passe si cela ne reste pas inconscient ou si son descendant devient conscient est encore plus inquiétante. Mais bon, allons à l’endroit le plus laid possible, au pire des cas, quelle serait la peur que… Je veux vraiment que tu ailles là-bas avant que je te dise ce que je pense être la peur. Pour certaines personnes, d’accord, premièrement, nous n’avons pas besoin que le chatbot GPT nous amène aux pires scénarios. Nous perdons déjà notre capacité à comprendre le monde dans lequel nous vivons, à le gérer.

Impact de GPT-3 et progrès technologique

Les outils que nous créons pour vivre en harmonie les uns avec les autres, nous perdons ces choses à l’ère pré-GPT chat. Tous ces problèmes vont s’aggraver ; c’est comme un accélérateur, n’est-ce pas ? C’est comme avoir un feu à la maison et y verser de l’essence, correct ? Maintenant, nous avons une maison en feu. Je ne sais vraiment pas si c’est la chose ou non, mais je sais que cela n’aidera pas maintenant. Nous ne pouvons pas faire face à cela, et soit dit en passant, ce n’est pas la première fois que cela se produit, n’est-ce pas ? Nous avions un monde, nous avions Internet, puis nous y avons versé des smartphones. C’était comme un accélérateur ; cela a amplifié le désordre qui émergeait des processus algorithmiques naturels à l’intérieur d’Internet et l’a rendu beaucoup pire lorsque les gens étaient constamment devant leurs téléphones et interagissaient de cette manière. Nous l’avons déjà vu ; nous allons le revoir avec l’énergie de fusion. L’énergie de fusion, je pense, est la technologie qui pourrait potentiellement nous sortir du système. Nous sommes dans un système durable, mais si nous l’ajoutons au système demain, si nous lisons le journal demain et découvrons que nous avons atteint la fusion évolutive, cela pourrait probablement aggraver les choses, pas les améliorer, car nous ne sommes pas préparés au monde qu’elle crée. Je ne sais même pas comment appeler ce problème, mais ne pas être prêt pour cela est très sérieux.

Inquiétudes dans les cercles intellectuels et profession nels

Alors, chat GPT effraie-t-il les intellectuels ? C’est là que se trouvent les intellectuels et les professeurs, disant : “Oh wow, si cela se produit.” Comme dans l’industrie de l’assurance, je suis dans l’industrie de l’assurance vie, quand ils ont commencé à faire de l’analyse prédictive sans avoir besoin d’abonnés et ont dit : “Bret, nous n’avons plus besoin de vous pour nous donner plus de sang et d’urine. Nous n’avons plus besoin de faire ça. Nous n’avons plus besoin d’abonnés. Nous avons ce test que nous allons obtenir de vous ; nous allons obtenir votre score sur les médias sociaux ; nous allons obtenir cela ; nous allons obtenir cela ; sur cette base, vous pouvez obtenir un abonnement premium car vous êtes en bonne santé ; vous vivrez jusqu’à 85 ans ; votre mère a vécu jusqu’à 89 ans, votre père jusqu’à untel ; vous allez bien.” Nous n’avons pas besoin d’abonnés. Les abonnés étaient assis là à dire : “Mais vous ne pouvez pas arrêter cela. Je gagne un quart de million de dollars par an ; il n’y a aucun moyen que je veuille que vous supprimiez mon emploi.” C’est effrayant, n’est-ce pas ? Mais devine quoi ? C’est de l’innovation. Se débarrasser des abonnés pourrait être de l’innovation, se débarrasser d’un système éducatif qui vient remplacer les enseignants qui sont là, inquiets, disant : “Hé, j’ai vanté à quel point je suis intelligent, et maintenant je ne peux plus le faire ; ce n’est pas juste.” Oui, et vous savez, nous venons de voir toutes sortes d’experts échouer à un test réel, n’est-ce pas ? Nous avons vu tous les universités, chaque département de sciences, échouer à un test important. Donc, si vous étiez à l’intérieur de ce système et que vous étiez resté vigilant, vous saviez qu’il y avait un problème de compétence, vous saviez que beaucoup de cela était de la fausseté et n’avait pas de sens, n’est-ce pas ? Cela sonnait et ressemblait à de la science mais ne fonctionnait pas comme de la science. Si vous comprenez vraiment la magie qui fait fonctionner la science, vous saviez que cela ne se passait pas dans ces départements ou dans les meilleurs journaux. Donc, d’une part, quelque chose comme le chat GPT pourrait nous aider à découvrir le niveau d’incompétence qui nous met en danger, ce qui serait génial, mais ma préoccupation est qu’il arme en fait la prochaine vague d’incompétence pour avoir l’air compétente, et donc il devient plus difficile de la détecter. Mon pari est que ce dernier problème l’emporte sur le bénéfice du premier. Tu m’as juste emmené dans un endroit complètement différent ; nous avons eu ça, je veux dire, nous avons un président qui fait des discours de personnes qui ont donné le discours 10 ou 20 ans avant lui, et cela sonne très présidentiel. Mais il a été pris en train de plagier le discours de John F. Kennedy ou le discours de Ted Kennedy ou tous ces autres discours de personnes, donc le plagiat ne va pas disparaître. Les gens sonnent très, très intellectuels. Je pense que ce qui va être intéressant, c’est qu’actuellement, nous pouvons produire un robot, si nous n’en avons pas déjà un, qui serait le champion de l’UFC pour chaque poids, n’est-ce pas ? Nous pouvons probablement produire un robot. Je ne sais pas si tu as vu ce robot qui tire des trois points et à quel point il est précis ; l’as-tu vu ou pas ? Le robot Step Curry. Non, pas même Step. Il a un 4 %. Ce mec, si tu lui donnes 10 à gauche, c’est une précision parfaite, et il tire le ballon. Donc le robot James, le robot Jordan. Mais veux-tu vraiment voir des robots jouer ? Non, tu sais, si nous pouvons créer un robot pour entrer dans l’UFC et les combattre, je serais vraiment intimidé par cela, probablement pas. Maintenant, l’avenir des robots militaires, c’est une autre histoire. C’est inquiétant, mais déjà.

Le rôle des intellectuels et l’avenir du débat

Tu sais, les intellectuels qui débattent, c’est comme si tu allais avoir un débat avec le chat GPT. Tu perdrais probablement le débat, pas dans le sens de qui a raison ou tort, mais dans celui qui est le plus capable de réciter plus d’informations, de se souvenir et de mémoriser. Eh bien, la capacité à mémoriser en tant qu’individu était un ensemble de compétences très précieux il y a 20 ans. De nos jours, tu peux le chercher quelque part et le faire. Je pense que nous voulons toujours voir le combat corps à corps des gens débattant et s’engageant, plutôt qu’un simple débat avec une machine. Eh bien, la question est, sauras-tu ce que tu regardes ? Ce que je disais toujours aux étudiants, c’est qu’ils étaient là dans cette salle de classe pour améliorer la capacité de leur esprit, pas pour apprendre des choses, n’est-ce pas ? Maintenant, les choses sont facilement disponibles sur Internet ; tu n’as pas besoin d’aller à l’école pour y accéder. Ce que tu dois y faire, c’est pratiquer la manière dont ton esprit fonctionne bien. Et tu sais quoi ? Aujourd’hui, je gagnerais contre le chat GPT parce que je ne le laisserais pas réduire des volumes d’informations. J’éviterais les volumes d’informations dans la question. En effet, chat GPT-3 ne peut pas y arriver, mais chat GPT-4 le fera, mais au niveau du raisonnement. Et je ne dis pas qu’il n’a pas cette capacité parce que nous l’avons vraiment vu, n’est-ce pas ? Le fait que cette chose puisse écrire du code et réparer du code est fou ; c’est incroyable, et c’est une sorte de pensée, même si elle ne le fait pas d’une manière que nous reconnaissons comme une cognition valide. Mais nous devons nous inquiéter de ce que l’aven ir nous réserve. La chose avec laquelle nous devons être très, très prudents est que ce genre de raisonnement et d’alignement de l’IA ne s’arrêtera pas aux portes de nos laboratoires, n’est-ce pas ? Qu’est-ce que je veux dire par là ? Eh bien, si je suis un terroriste, et que je peux m’entraîner à l’IA, et que je peux créer mon propre chat GPT 3.5, et que je peux entraîner mon propre chat GPT 3.5, et que je peux faire ce que je veux avec lui, puis le libérer dans la nature, c’est un agent très puissant de mal, n’est-ce pas ? Il a été formé pour faire ce que je veux qu’il fasse. Et à mesure que nous avons plus de données et de raisonnement, et que nous sommes mieux alignés, ils peuvent effectuer des tâches complexes, comme concevoir et lancer des attaques sophistiquées. Nous devons être vraiment, vraiment prudents avec cela, et je ne pense pas que nous ayons une compréhension adéquate. Je pense que nous avons probablement besoin d’un changement de paradigme. Je ne sais pas quel genre de choses nous pouvons faire, mais je sais que ce n’est pas de l’éducation traditionnelle. Je sais que ce n’est pas de l’éducation traditionnelle. Cela pourrait être quelque chose comme de la méditation. Cela pourrait être quelque chose comme de la méditation ou de la thérapie ou du coaching ou quelque chose comme ça, mais nous avons besoin de gens pour comprendre ce qui se passe vraiment ici. Je ne sais pas quelles sont les bonnes questions, mais je sais que ce n’est pas l’éducation traditionnelle.

Conclusion

La technologie avance à un rythme effréné, mais sommes-nous prêts pour les conséquences ? Les développements récents dans le domaine de l’intelligence artificielle posent des questions fondamentales sur la façon dont nous interagissons avec la technologie et quelles en seront les implications à long terme. Il est temps de repenser notre approche et de nous préparer à un avenir où les machines peuvent surpasser les humains dans de nombreux domaines. En travaillant ensemble pour comprendre et façonner ces avancées technologiques, nous pouvons nous assurer que nous tirons le meilleur parti de ce qu’elles ont à offrir tout en minimisant les risques potentiels pour notre société. Alors, êtes-vous prêt à relever le défi et à façonner l’avenir de l’IA avec nous ?