Физик-теоретик: человеческой цивилизации угрожает искусственный интеллект

Вероятно, наиболее неблагоприятным сценарием для человеческой цивилизации может стать ее столкновение с искусственным интеллектом, осознавшим себя. С таким заявлением выступил физик-теоретик Макс Тегмарк из Массачусетского технологического института.

По словам физика, специалисты нередко размышляют о том, что «умные» машины могут оставить множество людей без работы или быть использованы для создания новых видов оружия, однако еще более опасные последствия до сих пор почти не рассматривались всерьез.

Речь идет о вероятности, что на определенном этапе развития самообучающийся искусственный суперинтеллект может обрести своего рода сознание. Машина может ощутить себя личностью и на новом уровне осознать собственный субъективный опыт, то есть, несмотря на принципиально иную «структуру», станет во многих отношениях подобна человеку, утверждает Тегмарк, не склонный считать подобный сценарий в полной мере фантастическим.

В числе наиболее известными широкой аудитории людей, всерьез рассматривающих искусственный интеллект в качестве потенциальной угрозы человечеству, можно назвать другого физика-теоретика, Стивена Хокинга, а также предпринимателя Илона Маска. Последний недавно заявил, что стремление различных стран стать лидерами в сфере искусственного интеллекта может привести к Третьей мировой войне. До этого миллиардер вступил в дискуссию с основателем сети Facebook Марком Цукербергом, не согласившимся с тезисом, что на разработку искусственного интеллекта следует накладывать ограничения. Оба участника спора сочли позицию оппонента следствием недостаточно полного понимания ситуации.

К слову, Маск, Хокинг и ряд других публичных лиц оставили к недавно вышедшей книге Макса Тегмарка положительные отзывы.

Новости Крыма