Технологии

Хуже ядерной бомбы: Запад создает совершенно новую угрозу

Популярность технологий искусственного интеллекта на фоне их феноменальных возможностей уже тревожит не только простых обывателей, но и многих отраслевых экспертов. К примеру, около трети россиян считают, что в обозримом будущем активное развитие ИИ может привести к фантастическому прежде сценарию – восстанию машин. В целом же специалисты считают, что нынешняя угроза может быть даже хуже, чем ядерная бомба.


Люди, которые понимают, каким образом работают нейросети, подчеркивают, что их технологические возможности могут отразиться на рынке труда и заменить представителей ряда профессий. И эти страхи могут быть вполне обоснованными. Так, еще в марте специалисты крупного банка Goldman Sachs обнародовали отчет, в котором отметили, что искусственный интеллект и основанные на этой технологии сервисы в ближайшее время могут обернуться сокращением примерно 300 миллионов рабочих мест в разных странах мира.

Своими опасениями по поводу активного развития технологий ИИ ранее высказывал и американский миллиардер, основатель компаний Tesla и SpaceX Илон Маск. Присоединились к нему и представители других техногигантов. «Мощные системы на основе ИИ нужно создавать только в том случае, если мы будем уверены в том, что это принесет положительный эффект при управляемых рисках», - считают они.

К такому переполоху привело создание чат-бота ChatGPT, ставшего самой популярной нейросетью в мире. Несмотря на то, что ChatGPT несет в себе колоссальный потенциал и немало пользы, злоумышленники уже научились использовать его возможности в своих целях. В новой версии проекта эксперты даже начали замечать первые зачатки разума, но для полноценного развития мышления программе пока еще далеко. Как бы там ни было, многие из них бьют тревогу, отмечая невероятные риски, которые идут вместе с огромными возможностями таких технологий.

Наибольшую угрозу видят в подготовке компанией Open AI новой, уже пятой версии чат-бота, которая, судя по всему, должна достичь уровня AGI. И эксперты убеждены, что столь стремительное его развитие может оказаться угрозой, не менее опасной, чем ядерное оружие.

Впрочем, ряд специалистов все-таки подчеркивают, что достаточной технологической основы для столь значительного роста уровня осознанности программы пока нет. Чтобы получить максимальную автономность, искусственный интеллект должен научиться изменять свой код по той же аналогии, по которой в мозге человека меняются нейронные связи. А для этого программе придется запрашивать разрешение на модификацию у разработчика или искать способы обойти имеющиеся ограничения.

Общество с ограниченной ответственностью «ЛЮДИ», Бер Илья Леонидович, Проект «Гроза», Рудой Андрей Владимирович, Издание «Проект», Кац Максим Евгеньевич, Челябинское региональное диабетическое общественное движение «ВМЕСТЕ», Фонд «Центр гражданского анализа и независимых исследований «ГРАНИ» признаны в РФ иностранными агентами.
Автор: Михаил Сосновский
Источник: ria.ru
📅 6-04-2023, 11:45
Читайте также

Введите комментарий:

Последние новости
Популярное
Работа у нас