Маск и эксперты призывают приостановить обучение систем ИИ, более мощных, чем GPT-4

Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем, более мощных, чем недавно запущенная модель GPT-4 от OpenAI. Об этом они заявили они в своем открытом письме, ссылаясь на потенциальные риски для общества и человечества, передает Bizmedia.kz со ссылкой на Reuters.

Все призывают приостановить обучение систем ИИ, более мощных, чем GPT-4

Письмо, выпущенное некоммерческим институтом Future of Life Institute и подписанное более чем 1 000 человек. Его подписали Маск, генеральный директор Stability AI Эмад Мостак, исследователи из принадлежащей Alphabet компании Stability AI. (GOOGL.O) DeepMind, а также тяжеловесы ИИ Йошуа Бенгио и Стюарт Рассел. Они призывают приостановить разработку передового ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких разработок.

«Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их влияние будет положительным, а риски — управляемыми», — говорится в письме.

В письме также подробно описаны потенциальные риски для общества и цивилизации со стороны конкурирующих с человеком систем ИИ в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регулирования.

Письмо пришло в понедельник, когда полиция ЕС Европол присоединилась к группе этических и юридических опасений по поводу продвинутого ИИ, такого как ChatGPT, предупреждая о потенциальном использовании системы в попытках фишинга, дезинформации и киберпреступности. Маск, чей автопроизводитель Tesla (TSLA.O) использует ИИ для системы автопилота, открыто высказывал свои опасения по поводу ИИ.

С момента своего выпуска в прошлом году ChatGPT, разработанный OpenAI при поддержке Microsoft, побудил конкурентов ускорить разработку аналогичных больших языковых моделей, а компании — интегрировать генеративные модели ИИ в свои продукты.

Сэм Альтман, исполнительный директор OpenAI, не подписал письмо, сообщил агентству Reuters представитель компании Future of Life. OpenAI не сразу ответил на просьбу о комментарии.

«Письмо не идеально, но дух его верен: нам нужно притормозить, пока мы лучше не поймем последствия», — сказал Гэри Маркус, профессор Нью-Йоркского университета, подписавший письмо. «Они могут причинить серьезный вред… крупные игроки становятся все более скрытными в своих действиях, что затрудняет защиту общества от любого вреда, который может проявиться».

Читайте также:

В 15 регионах Казахстана зафиксировано ускорение инфляции в феврале
18 марта 2025 в 20:31
Ученые выяснили, обладатели какой группы крови реже болеют раком
15 марта 2025 в 19:53
Marketing & Reputation Day 2025: Конференция о маркетинге и управлении репутацией в Алматы
18 марта 2025 в 19:13
Мясников предупреждает: частый прием парацетамола может привести к пересадке печени
14 марта 2025 в 21:05
Завершилось голосование жюри премии Metaratings Top Awards 2025
18 марта 2025 в 19:11
В Алматы проводится рейдовое мероприятие «Борышкер»
14 марта 2025 в 11:55
Бектенов представил Токаеву отчет о противопаводковых мероприятиях
18 марта 2025 в 18:56
Почему после 60 мужчины ищут совместную жизнь, а женщины предпочитают одиночество?
12 марта 2025 в 17:13
Несколько новых штрафов введут в Казахстане
18 марта 2025 в 18:12
Home Credit Bank повышает ставки по депозитам
17 марта 2025 в 14:08
В Казахстане предлагают перенести школьные экзамены из-за Курбан айта
18 марта 2025 в 17:38
В Казахстане участились случаи хищения автомобилей и грузов при междугородних перевозках
17 марта 2025 в 17:07
За последние два года 295 казахстанцев отчитались о получении иностранного финансирования
18 марта 2025 в 16:56
В Минторге заявили, что казахстанские продукты в магазинах нужно располагать на уровне глаз
13 марта 2025 в 17:17
Они действительно работают: названы продукты, которые замедляют старение
18 марта 2025 в 16:45
Что такое Kaspi Касса?
13 марта 2025 в 14:55
Деятельность USAID на территории Казахстана будет проверена
18 марта 2025 в 16:43
Казахстан вошел в число лидеров по покупке золота среди развивающихся стран
17 марта 2025 в 11:46
В чем причина подорожания мяса в Казахстане?
18 марта 2025 в 16:11
5 вещей в доме, которые нужно выбрасывать каждую неделю без сожаления
14 марта 2025 в 15:50
Главой Агентства РК по атомной энергии назначен Алмасадам Саткалиев
18 марта 2025 в 16:01
Автодорогу от Астаны к Транскаспийскому маршруту построят в Казахстане
14 марта 2025 в 17:19
Доллар подешевел на торгах и теперь стоит 496 тенге
18 марта 2025 в 15:37
Туризм, наука и медицина: что изменится в регионах Казахстана
14 марта 2025 в 17:52