Source > [https://www.youtube.com/watch?v=z4DdgnnCjUg](https://www.youtube.com/watch?v=z4DdgnnCjUg)

Encore une fois, si on ne défini pas ce qu'intelligent veut vouloir dire, on continue de nager dans le flou et la proposition de Hassabis, c’est plutôt un critère très élevé de créativité scientifique. Un humain parfaitement "intelligent" n’est pas nécessairement un génie scientifique. Son test risque donc de confondre intelligence générale et intelligence exceptionnelle. Ca pose aussi un problème pratico-pratique : comment vérifier qu’une idée est véritablement nouvelle, pertinente et pas simplement recombinée (ce qui est quasi toujours le cas d'ailleurs > ça ne sort pas de nulle part) ? Et combien de temps faudrait-il pour confirmer qu’une hypothèse scientifique produite par une IA constitue réellement une avancée ?

Il faudrait surtout recréer le contexte des connaissances de 1901 (ça veut dire quoi ?). Une base documentaire d'ajourdhui, même composée uniquement de textes antérieurs à 1901, contiendra forcément une organisation non neutre : métadonnées, classifications, traductions modernes et rapprochements thématiques conçus après la découverte. Le choix même du corpus orienterait fortement le résultat. Puis si on demande explicitement au système "invente la relativité restreinte", on lui fournit déjà la cible. Cela ne teste précisément pas ce que Hassabis présente comme le plus difficile : reconnaître qu’un nouveau problème doit être posé et découvrir lequel. Bref. L'exemple d’Einstein est surtout une image forte, ça sonne comme une bonne idée. Mais facile à dire qu'à faire.

Transcript (trad IA GPT/Claude)

*Oui, enfin, je vois cela un peu comme une analogie avec les neurosciences : le cerveau humain constitue la seule preuve concrète dont nous disposions que l’intelligence générale est possible. Nous savons qu’elle l’est parce que l’esprit humain a produit toute cette civilisation moderne extraordinaire qui nous entoure, y compris la science. Il possède donc une capacité de généralisation incroyable, et c’est ce qui explique notre faculté d’adaptation : nous nous adaptons aux nouvelles technologies et nous les inventons, alors même que notre cerveau a évolué pour répondre aux besoins de sociétés de chasseurs-cueilleurs. C’est assez remarquable.* 

*À mon sens, nous ne pourrons pas affirmer que nous avons créé une véritable intelligence générale tant qu’elle ne possédera pas des capacités comparables à celles du cerveau, puisque celui-ci est notre unique preuve que cela soit possible. La barre est donc placée très haut, probablement bien plus haut que la simple capacité à accomplir un travail économiquement utile ou que d’autres critères dont j’ai entendu parler. J’ai toujours été assez constant sur ce point. Le type d’épreuve que je proposerais serait une sorte de "test d’Einstein" : prenons l’un de ces systèmes et entraînons-le uniquement à partir des connaissances disponibles en 1901. Serait-il capable d’inventer la relativité restreinte, comme Einstein l’a fait en 1905 ? S’il en était capable, nous pourrions alors l’appliquer à la physique actuelle et lui demander, par exemple, de prolonger la théorie des cordes, d’expliquer ce qui se passe avec la matière noire ou de formuler de nouvelles hypothèses.* 

*Ca vaudrait peut-être la peine d’étudier ce qu’il produirait, même si toute théorie nouvelle exigerait évidemment beaucoup de temps et d’efforts pour être mise à l’épreuve, particulièrement en physique. Il faudrait donc être raisonnablement certain que ces systèmes sont réellement capables de proposer quelque chose de cohérent. J’ai toujours dit que formuler une hypothèse était plus difficile que résoudre une conjecture existante, même si cela constitue déjà un exploit. Mais parvenir à définir un problème qui mérite véritablement d’être étudié et que l’on y consacre des efforts est encore plus difficile. En science, le plus difficile est de poser la bonne question. Est-ce que cela correspondrait à la véritable créativité d’un système d’IA ? Oui, c’est très étroitement lié à ce que j’appellerais la créativité véritable : être capable de produire quelque chose de réellement nouveau, qui représente une avancée majeure plutôt qu’une simple amélioration progressive.* 

*Le test d’Einstein serait donc une manière de l’évaluer, mais il en existe d’autres. Un autre exemple que je donne souvent est celui d’AlphaGo. Lors de la deuxième partie de son match, AlphaGo a joué le fameux coup 37. Il s’agissait incontestablement d’une stratégie nouvelle au jeu de go, qui a modifié la manière dont celui-ci peut être joué. C’était extraordinaire, car les humains jouent au go depuis plusieurs millénaires : c’est l’un des jeux les plus anciens jamais inventés et probablement le plus complexe.* 

*Pourtant, AlphaGo a réussi à inventer de nouvelles stratégies. Mais cela ne suffit pas. Ce que l’on voudrait réellement, c’est qu’une future version d’AlphaGo soit capable d’inventer le go lui-même, c’est-à-dire de concevoir un jeu aussi profond, complexe, élégant et beau que le go, et pas seulement de découvrir une stratégie nouvelle à l’intérieur d’un jeu existant. Je ne pense pas que les systèmes actuels en soient encore capables, mais je crois qu’ils le seront à l’avenir.*



Demis Hassabis, PDG de Google DeepMind et prix Nobel, estime que l’industrie place la barre trop bas pour définir l’AGI.