Компания OpenAI объявила о формировании специальной команды, которая будет заниматься разработкой методов управления и контроля Искусственного Интеллекта, превосходящих по возможностям человеческий разум. Об этом сообщает Bizmedia.kz.
OpenAI формирует команду для разработки методов контроля сверхразумного ИИ
Компания OpenAI объявила о создании специальной команды, которая будет заниматься разработкой методов управления и контроля искусственным интеллектом (ИИ), превосходящим по возможностям человеческий разум. Руководит этой командой один из основателей компании и ее главный научный сотрудник Илья Суцкевер, сообщает TechCrunch.
По словам компании, такой «сверхразумный» ИИ может появиться в течение десятилетия и представлять угрозу для человечества, если не будет подчиняться человеческим ценностям и интересам. Поэтому OpenAI считает необходимым искать способы контроля и ограничения его действий.
Существующие методы настройки ИИ основаны на обратной связи от человека, но они не подходят для контроля более разумных систем, чем люди. В связи с этим, специальная команда OpenAI будет использовать искусственный интеллект для оценки и настройки сверхразумных ИИ, чтобы обеспечить их безопасность и достижение желаемых результатов.
OpenAI признает, что такой подход не гарантирует отсутствия ошибок и уязвимостей, и что настройка сверхразума может встретить неожиданные проблемы. Однако компания уверена в своем опыте в области машинного обучения и намерена делиться своими наработками с другими участниками рынка искусственного интеллекта.
Читайте также:
- Яхта с туристами затонула в Египте: есть ли среди пострадавших казахстанцы
- В КазНТОБ состоится пресс-конференция по случаю премьеры оперы Хамита Шангалиева «Хан Султан. Алтын Орда»
- Возврат доступа к сервисам Sony PlayStation: Казахстан ведет переговоры с властями Японии
- Биометрия детей: штрафы за сбор без согласия хотят повысить в Казахстане
- Штраф за перегруз в Казахстане: министр сделал заявление
