(ceci sort du cadre des notes sur Quine)
Assimilons un cerveau à un système formel qui démontre des propositions (un cerveau n'est pas cela, et, justement, limiter le cerveau à cela donne des paradoxes dès qu'on explore l'introspection ; un cerveau est une machine qui se trouve dans certains états, capable de simuler un système formel, en particulier, celui de ses croyances, mais qui n'explose pas dès que le système formel en question rencontre une difficulté...)
Si alors ce système formel arrive à donner un sens précis et à intégrer dans sa syntaxe des attitudes intensionnelles telles que "untel croit que", il peut en particulier donner un sens à "je suis sûr que" ; et ce sens est celui de "mon système formel peut démontrer...". Si de manière systématique, un système formel S sait passer de la phrase entre guillemets "S démontre telle chose" à la vérité de cette chose pour lui, alors ce système est contradictoire (par la preuve du théorème de Gödel).
Par conséquent, si un cerveau assimilé à un système formel est capable de traiter les axiomes de son propre système formel, de les manipuler et d'en déduire pour lui-même les démonstrations ainsi obtenues, il est contradictoire. Autrement dit, un cerveau ne peut pas savoir quels sont les axiomes qui le font marcher ; ou, plus exactement, il peut le savoir ie l'utiliser sans démonstration, mais pas le démontrer rigoureusement. Le fait de ne pas pouvoir le démontrer rigoureusement est tout à fait compatible avec le fait de l'utiliser en pratique (ce qui revient à poser, comme axiome supplémentaire, que la phrase indécidable de Gödel du système correspondant est vraie).
L'impossibilité de prouver que je suis décrit par tels axiomes, n'implique pas du tout l'impossibilité pour moi de comprendre la liste des axiomes qui me gouvernent si on me les soumet, et encore moins, l'inexistence de tels axiomes. Le théorème de Gödel ne peut donc pas être utilisé contre l'intelligence artificielle prise comme la thèse que je peux être décrit par tels axiomes, tout au plus, peut-on affirmer que je ne pourrai jamais à la fois donner une liste des axiomes qui me gouvernent, et prouver que cette liste est bien celle des axiomes qui me gouvernent (par contre, il se pourrait que je puisse prouver, sans les exhiber, qu'il existe un certain système d'axiomes qui me gouverne). Rien ne s'oppose, non plus, à ce qu'on puisse faire cette opération sur un autre sujet que soi-même, c'est-à-dire exhiber avec preuve un système d'axiomes qui gouverne son voisin (par exemple en disséquant son cerveau). Ceci est un cas étrange de dissociation entre moi et les autres, à rapprocher, peut-être, du fait que le matérialisme ne peut pas écarter le solipsisme.
(Cette discussion dépend bien évidemment de notre hypothèse que le cerveau fonctionne selon certains axiomes, alors que le cerveau ne se réduit pas à son comportement déductif et est plutôt un système se trouvant dans tel ou tel état, par associations d'idées, qu'un système formel opérant par déduction.)