Ну и собственно, вопрос: как понять, что ты тупишь, когда ты тупой? Как выбрать здравое решение проблемы, когда любое решение принимается на основе неспособности здраво мыслить? Как увидеть своё отражение, если перед глазами нет зеркала? Или когда нет глаз. И мозгов. И очень хочется спать. И немного капустного рассола. И вспомнить название анимешки, в которой гигантские роботы дрались галактиками. И поспать. И блинчик с вареньем. А потом - опять спать. Дней пять. И что бы проснуться на куче денег. И изобрести телепорт, что бы никуда не опаздывать. Ах да, посмотрел Ex Machina. Отличное кино! Интересно, если бы людям была дана возможность стереть воспоминания, стали бы они этим пользоваться, что бы пересматривть любимые фильмы, перечитывать книги, заново первый раз есть вкусную еду? Стали бы, конечно. А перевлюбляться? Интересно, как бы такое повлияло на развитие общества.
Мда, и вот ещё. На сколько сильно человек, неспособный осознать свои умственные ограничения отличается от ИИ, не способного понять, что его действия ограничены какими-нибудь программными методами? И если я принимаю решение, которое идёт мне во вред, считая, что поступаю правильно - отличаюсь ли я от ИИ, принимающего решение, идущее ему во вред под действием кода?