Certes, c'est une bonne maxime, le problème est de savoir quelle est "l'affirmation extraordinaire" en l'occurrence.
Pour reprendre l'angle de Stuart Russell, l'affirmation : "nous saurons évidemment contrôler parfaitement des systèmes plus intelligents que nous" ma paraît assez "extraordinaire".