Искусственный интеллект способен не только компенсировать нехватку знаний, но и скрывать её от самого человека.
Если результат выглядит убедительно, а способность независимо проверить его утрачена, ошибка может быть принята за знание и затем воспроизводиться снова.
Проблема начинается не тогда, когда человек пользуется ИИ, и даже не тогда, когда ИИ оказывается компетентнее человека. Она начинается тогда, когда человек уже не способен определить границы собственной способности проверить его вывод.