Franck Logan a été chargé de retrouver Ada, une intelligence artificielle, disparue. Il discute avec Nick Caldwell, un ingénieur qui a vu Ada « grandir ».
– Diriez‑vous qu'Ada est consciente ? demanda‑t‑il pour la deuxième fois de la journée.
– C'est l'éternel débat de l'intelligence artificielle. Tout dépend de ce que vous entendez par ce mot. Les scientifiques n'ont toujours pas percé le mystère de la conscience. Que signifie être conscient ? Que je ressens les choses ? Les animaux aussi. Que mon cerveau établit des connexions entre les signaux qui lui parviennent ? Là encore, d'autres êtres vivants en sont capables. Que j'ai conscience de mon être ? Voyez comme j'en reviens au moment même que j'essaie de définir. Les bouddhistes ont une expression pour décrire cette impossibilité du sujet à se prendre pour objet : « Un couteau ne peut se couper lui‑même. » Turing – toujours lui ! – a eu l'idée de considérer la question sous un angle pratique. Plutôt que de chercher à déterminer par la théorie si les ordinateurs pouvaient penser, il a conçu un test simple encore utilisé aujourd'hui : une intelligence artificielle est réputée avoir passé le test si un homme conversant à l'aveugle avec elle pendant cinq minutes ne peut dire s'il a ou non affaire à un humain.
– Cela prouve qu'elle a été bien programmée, remarqua Franck, pas qu'elle est consciente.
– En effet. Le philosophe John Searle en a donné une brillante démonstration. Supposons, dit‑il, que vous soyez enfermé dans une pièce ; vous ne parlez pas le chinois et vous le lisez encore moins.
– Je vous le confirme.
– Un Chinois se tenant à l'extérieur de la pièce glisse sous la porte un message écrit en mandarin, dont vous ne comprenez pas un traître mot. Vous disposez cependant d'un manuel contenant des instructions extrêmement détaillées : « Combien le premier idéogramme1 contient‑il de traits ? Quatorze ? Alors rendez‑vous à telle page. Le reconnaissez‑vous parmi cette liste ? Oui ? rendez‑vous à telle page », et ainsi de suite. Arrivé au bout du texte, le manuel vous indique les idéogrammes à recopier pour composer votre réponse. Voyant revenir un message en mandarin votre correspondant en conclut que vous parlez sa langue.
Franck voulut s'assurer qu'il avait saisi la leçon.
– Vous êtes en train de dire que les IA traitent l'information sans la comprendre ?