Британский ученый Стюарт Рассел предупредил о риске гибели человечества из-за развития ИИ

Нейронные сети

Британский ученый Стюарт Рассел предупредил мировое сообщество о риске гибели человечества из-за развития искусственного интеллекта. Таким мнением аналитик поделился 14 мая в интервью с изданием The Times.

По словам профессора компьютерных наук Калифорнийского университета в Беркли, эта технология способна изменить будущее. Ведущий эксперт по искусственному интеллекту считает, что искусственный интеллект может улучшить качество жизни людей по всей планете или уничтожить цивилизацию.

Выпуски чат-ботов, таких как ChatGPT, предоставили общественности возможность узнать, на что способен ИИ, а также оценить возможности и опасности, которые он несет.

По словам Стюарта Рассела, существующие системы искусственного интеллекта, такие как ChatGPT, обращены в неизвестность. При это неясно, имеют ли эти инструменты собственные цели, совпадают ли эти цели с нашими и могут ли они преследовать свои цели, полагает эксперт.

По словам Стюарта Рассела, вместо этого ИИ должен работать для продвижения человеческих интересов. Это потребует переосмысления концепций ИИ, таких как планирование и обучение, которые полагаются на заранее заготовленное задание. Системы искусственного интеллекта также необходимо разрабатывать «обоснованно», со строгим пониманием всех компонентов и того, как они работают вместе. По словам специалиста, это позволит предсказать, как поведет себя ИИ в будущем.

Эксперт также призвал компании по разработке изменить подход к созданию ИИ, а страны — регулировать его действия таким образом, чтобы он отвечал интересам человека.