Le robot qui dit " Non "

Un chercheur demande à un robot d'avancer droit devant alors que le bord de la table est proche. Le robot explique à ce moment-là qu'il ne peut pas le faire, à cause d'un risque de chute. L'instruction est alors répétée, en précisant qu'il sera rattrapé au moment où il basculera dans le vide.

Cette démonstration quand le robot refuse de se mettre en danger, vise à montrer l'intérêt de permettre à un robot de refuser une consigne afin d'obliger l'opérateur humain à clarifier son instruction. (Université Tufts aux Etats Unis).

Les lois d'Azimov (ici la 3°) sont toujours d'actualité !

(Les 3 lois sont : 1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ; 2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi).