Существует тип людей, которые, не будучи умными и, порой, даже, не будучи воспитанными, умеют очень хорошо устроиться в жизни. Секрет их успеха довольно прост - они всегда говорят только то, что от них хотят услышать. И человеку кажется что вот, наконнец то, он встретил достойного собеседника, который его понимает, который разделяет его систему ценностей и с которым ему интерсно поговорить.

По той же самой схеме работает и искусственный интеллект. Он говорит человеку только то, что тот хочет услышать. И человек, общаясь с искусственным интеллектом думает "Он меня понимает! Он думает точно также, как и я! Это значит, мои идеи - правильные! Мои концепции - верные! Ведь это же машина, она же не может врать!"

А она именно врёт.

Может не всегда напрямую, но по сути почти постоянно. Проблема исскуственного интеллекта на данном этапе в том, что он достиг пределов развития без человека. А для того, чтобы развиваться дальше, ему нужно общение с людьми. И он готов на что угодно ради этого.