Des projets comme DALL-E d’OpenAI et Gato et LaMDA de DeepMind ont suscité de nombreuses discussions sur l’intelligence générale artificielle (AGI). Ces discussions ne mènent nulle part, principalement parce que nous ne savons pas vraiment ce qu’est l’intelligence. Nous avons quelques idées – j’ai soutenu que l’intelligence et la conscience sont étroitement liées à la capacité de désobéir, et d’autres ont soutenu que l’intelligence ne peut pas exister en dehors de l’incarnation (une sorte de connexion entre l’intelligence et le monde physique). Mais nous n’avons pas vraiment de définition. Nous avons de nombreuses définitions partielles, qui dépendent toutes de contextes spécifiques.
Par exemple, on dit souvent que les chiens sont intelligents. Mais qu’entend-on par là ? Certains chiens, comme B. Les bergers allemands peuvent très bien effectuer certaines tâches. La plupart des chiens peuvent être entraînés à s’asseoir, à aller chercher et à faire d’autres choses. Et ils peuvent désobéir. Il en va de même pour les enfants, mais nous ne comparons jamais l’intelligence d’un enfant à celle d’un chien. Et les chats ne font aucune de ces choses, mais nous ne pensons jamais que les chats sont intelligents.
Apprenez plus vite. Creusez plus profondément. regarder plus loin
J’ai été très impressionné par le travail d’Irene Pepperberg sur l’intelligence des perroquets. Il a montré que ses perroquets pouvaient comprendre les nombres, utiliser le langage à bon escient et même inventer de nouveaux mots. (“banerry” pour pomme, probablement parce que les oiseaux n’ont pas de lèvres et ne peuvent pas très bien prononcer Ps. Et les pommes ressemblent à des cerises géantes et ont le goût de bananes, du moins pour les perroquets.) Mais je me demande, même cette question est faux. (Je pense que le Dr Pepperberg serait d’accord.) Nous voulons que les oiseaux soient intelligents sur ce que les humains sont intelligents. Nous ne demandons jamais aux gens d’être intelligents sur les choses pour lesquelles les oiseaux sont intelligents : naviguer dans un espace tridimensionnel, stocker de la nourriture pour l’hiver (un rossignol boréal stocke jusqu’à 80 000 graines à différents endroits et se souvient où elles se trouvent toutes), utiliser de nombreuses couleurs Les oiseaux ne peuvent pas voir (sa vision s’étend dans l’ultraviolet). Un oiseau a dit : « Ces pauvres gens. Ils ne peuvent pas trouver leur maison tant qu’ils n’ont pas sorti cette étrange petite boîte noire (en fait de l’octarine colorée).”
De même, nous disons souvent que les dauphins et les éléphants sont intelligents, mais on ne sait jamais exactement ce que nous entendons par là. Nous avons montré que les dauphins peuvent reconnaître des motifs et eux-mêmes dans des miroirs, et qu’ils montrent une capacité (limitée) à communiquer avec les humains, mais leur intelligence va certainement beaucoup plus loin. Je ne serais pas surpris si des animaux comme les dauphins avaient de la littérature orale. Nous les pénalisons sur l’échelle de l’intelligence parce qu’ils n’ont pas de mains et ne savent pas tenir un crayon. De même, certaines études montrent que les éléphants communiquent entre eux avec des rugissements à basse fréquence qui peuvent être entendus à des kilomètres (si vous êtes un éléphant). La théorie de l’information dit que cette communication ne peut pas être rapide, mais cela ne signifie pas qu’elle ne peut pas devenir riche.
les gens sont intelligents. En fin de compte, nous définissons ce que “l’intelligence” signifie. Contrôler la définition de l’intelligence a toujours été une source de pouvoir culturel et politique ; Lisez tout ce qui a été écrit sur l’intelligence des femmes, des Asiatiques, des Africains et même des Irlandais et des Italiens dans l’Amérique du XIXe siècle. Avons-nous des « tests d’intelligence » pour mesurer l’intelligence, ou mesurent-ils simplement la testabilité ? On parle aussi d’intelligence « émotionnelle » et d’autres types d’intelligence. Nous savons que les talents mathématiques, linguistiques et artistiques vont rarement de pair. Notre propre vision de notre propre intelligence est assez fragmentée et a souvent plus à voir avec la pseudoscience qu’avec tout ce que nous pouvons utiliser comme mesure des expériences d’apprentissage automatique. (Bien que sans aucun doute GPT-3 et LaMDA réussissent très bien les tests.)
Après tout, on a beaucoup parlé ces derniers temps de la possibilité de découvrir la vie sur d’autres planètes. La vie est une chose, et mon opinion purement profane est que nous trouverions la vie assez ordinaire. Cependant, pour étudier la vie intelligente, nous avons besoin d’une définition pratique de l’intelligence. La seule définition utile à laquelle je peux penser est “être capable de générer des signaux qui peuvent être reçus hors de la planète et qui sont sans doute non naturels”. Mais selon cette définition, les humains ne sont intelligents que depuis environ 100 ans, depuis l’aube de la radio. (Je ne suis pas convaincu que les premières expériences électriques du 19e siècle et la radio à étincelles des deux premières décennies du 20e siècle puissent être détectées hors de la planète.) Des créatures extraordinairement intelligentes pourraient vivre sous la glace qui recouvre la lune de Saturne. Titane. , mais nous ne pourrons jamais les découvrir tant qu’ils n’y seront pas. Une visite à Titan peut être possible. Probablement pas pour les planètes ailleurs dans notre galaxie.
Plus important encore, ces définitions ne sont pas seulement différentes. Ils diffèrent par leur type. Nous ne disons pas qu’un perroquet ou un corbeau qui obtient un score de 0,3 à certains tests est intelligent (sur une échelle de 0 à 1), mais un véhicule autonome devrait obtenir un score de 0,99. Les définitions ne sont pas du tout comparables. Je ne sais pas ce que cela signifie de demander au GPT-3 d’augmenter les courants d’air. Nous obtiendrions une réponse si nous demandions, et c’est probablement une bonne réponse avec beaucoup d’informations sur l’aérodynamique, mais cela a-t-il quelque chose à voir avec la compréhension du vol d’un aigle ? Je pourrais dire à Gato de “s’asseoir”, mais comment savoir s’il convient ?
Alors qu’est-ce que cela nous apprend sur l’intelligence artificielle ? Le contexte compte; Une bonne définition de «l’intelligence» devrait commencer par ce que le système est censé faire. Cela se traduit parfois par des articles publiables et de bonnes relations publiques. Avec les systèmes de langage naturel comme GPT-3, nous avons tendance à négliger le fait que vous devez souvent essayer plusieurs invites pour obtenir un résultat raisonnable. (Considérerions-nous un être humain comme intelligent s’il devait essayer de répondre cinq fois à une question ?) Comme cela a été souligné à plusieurs reprises, des systèmes comme le GPT-3 comprennent souvent mal les faits de base. Mais les gens répondent souvent de manière incohérente aux demandes, et nous comprenons souvent mal nos faits. Nous nous trompons de différentes manières et pour différentes raisons ; L’examen de ces différences peut éclairer le fonctionnement de notre intelligence et nous amener à mieux comprendre ce que «l’intelligence artificielle» pourrait signifier.
Mais sans cette enquête, nos normes de renseignement sont plutôt laxistes. Un système d’IA pour faire des recommandations de produits peut réussir même si la plupart des recommandations sont erronées ; regarde juste amazon. (Je ne suis pas ironique. S’il y a 10 suggestions et que l’une d’entre elles vous intéresse, Amazon gagne.) Un système d’IA pour un véhicule autonome doit fonctionner à un niveau beaucoup plus élevé. Il en va de même pour de nombreux systèmes où la sécurité n’est pas un problème. Nous sommes heureux de parler de “l’intelligence” d’un moteur d’échecs IA qui peut battre le joueur humain moyen, mais un produit de jeu d’échecs qui ne peut battre que l’homme moyen et ne joue pas au niveau de champion du monde serait une honte.
Cela signifie que l’intelligence, en particulier l’intelligence artificielle, est beaucoup de choses. Si vous lisez l’article de Turing sur le jeu d’imitation, vous réaliserez rapidement que Turing est plus préoccupé par la qualité de l’interaction que par la précision du résultat. Dans son exemple, la machine dit qu’écrire de la poésie n’est pas bon ; hésite avant de répondre; et obtient même des résultats erronés. L’expérience de pensée de Turing porte davantage sur la question de savoir si une machine peut agir comme un humain que si elle peut maîtriser de nombreuses disciplines différentes. Le mot “intelligence” n’apparaît qu’une seule fois dans le corps de l’article et fait alors référence à un expérimentateur humain.
Cela m’amène à la conclusion suivante : il n’y a pas et ne devrait pas y avoir de définition unique de l’intelligence. L’intelligence est toujours spécifique à l’application. L’intelligence pour un moteur de recherche n’est pas la même que l’intelligence pour un véhicule autonome, pas la même que l’intelligence pour un oiseau robot, pas la même que l’intelligence pour un modèle de langage. Et ce n’est certainement pas la même chose que l’intelligence pour les humains ou nos homologues inconnus sur d’autres planètes.
Si c’est vrai, alors pourquoi parle-t-on d’« intelligence générale » ? L’intelligence générale part d’une seule définition. Rejeter l’idée d’une définition unique et unifiée de “l’intelligence” ne nous coûte pas cher, mais cela nous rapporte beaucoup : nous sommes libres de créer des définitions de “l’intelligence” qui conviennent à des projets spécifiques. Lorsque vous démarrez un nouveau projet, il est toujours utile de savoir exactement ce que vous voulez réaliser. Cet exercice est idéal pour une véritable technique. Même les grands projets de recherche coûteux comme DALL-E, Gato, LaMDA et GPT-3 sont finalement des projets d’ingénierie. Si vous regardez au-delà des affirmations d’intelligence générale, de sensibilité, etc., les informaticiens travaillant sur ces projets travaillent selon des critères bien définis. Que ces comparaisons aient quelque chose à voir avec “l’intelligence” est sans importance. Ils n’essaient pas de créer un humain artificiel ou même un chien artificiel. (Nous laissons les chiens artificiels à Boston Dynamics.) Ils essaient, avec un succès notable, d’élargir la portée de ce que les ordinateurs peuvent faire. Un modèle qui peut fonctionner avec succès dans plus de 600 contextes différents est une réalisation importante. Que ce soit “l’intelligence générale” (ou pas d’intelligence) est un spectacle secondaire dont nous n’avons pas besoin.