Компания OpenAI объявила о формировании специальной команды, которая будет заниматься разработкой методов управления и контроля Искусственного Интеллекта, превосходящих по возможностям человеческий разум. Об этом сообщает Bizmedia.kz.
OpenAI формирует команду для разработки методов контроля сверхразумного ИИ
Компания OpenAI объявила о создании специальной команды, которая будет заниматься разработкой методов управления и контроля искусственным интеллектом (ИИ), превосходящим по возможностям человеческий разум. Руководит этой командой один из основателей компании и ее главный научный сотрудник Илья Суцкевер, сообщает TechCrunch.
По словам компании, такой «сверхразумный» ИИ может появиться в течение десятилетия и представлять угрозу для человечества, если не будет подчиняться человеческим ценностям и интересам. Поэтому OpenAI считает необходимым искать способы контроля и ограничения его действий.
Существующие методы настройки ИИ основаны на обратной связи от человека, но они не подходят для контроля более разумных систем, чем люди. В связи с этим, специальная команда OpenAI будет использовать искусственный интеллект для оценки и настройки сверхразумных ИИ, чтобы обеспечить их безопасность и достижение желаемых результатов.
OpenAI признает, что такой подход не гарантирует отсутствия ошибок и уязвимостей, и что настройка сверхразума может встретить неожиданные проблемы. Однако компания уверена в своем опыте в области машинного обучения и намерена делиться своими наработками с другими участниками рынка искусственного интеллекта.
Читайте также:
- ВCC Invest прогнозирует снижение базовой ставки Нацбанка на 0,25 п.п., до 16%
- Нацбанк выпускает в обращение коллекционную монету-украшение AQYQ
- Больше, чем просто конкурс: как крупный бизнес Казахстана взращивает лидеров нового поколения
- XIV Kazakhstan HR Forum: как превратить идею в миллион
- Хозяин квартиры не возвращает депозит: что делать арендатору в Казахстане
