Компания OpenAI объявила о формировании специальной команды, которая будет заниматься разработкой методов управления и контроля Искусственного Интеллекта, превосходящих по возможностям человеческий разум. Об этом сообщает Bizmedia.kz.
OpenAI формирует команду для разработки методов контроля сверхразумного ИИ
Компания OpenAI объявила о создании специальной команды, которая будет заниматься разработкой методов управления и контроля искусственным интеллектом (ИИ), превосходящим по возможностям человеческий разум. Руководит этой командой один из основателей компании и ее главный научный сотрудник Илья Суцкевер, сообщает TechCrunch.
По словам компании, такой «сверхразумный» ИИ может появиться в течение десятилетия и представлять угрозу для человечества, если не будет подчиняться человеческим ценностям и интересам. Поэтому OpenAI считает необходимым искать способы контроля и ограничения его действий.
Существующие методы настройки ИИ основаны на обратной связи от человека, но они не подходят для контроля более разумных систем, чем люди. В связи с этим, специальная команда OpenAI будет использовать искусственный интеллект для оценки и настройки сверхразумных ИИ, чтобы обеспечить их безопасность и достижение желаемых результатов.
OpenAI признает, что такой подход не гарантирует отсутствия ошибок и уязвимостей, и что настройка сверхразума может встретить неожиданные проблемы. Однако компания уверена в своем опыте в области машинного обучения и намерена делиться своими наработками с другими участниками рынка искусственного интеллекта.
Читайте также:
- Лесть как инструмент большой политики. Что даст Казахстану встреча Токаева и Трампа?
- Казахстан присоединился к Авраамским соглашениям: МИД сделал заявление
- Казахстанцы получат бесплатный доступ к Perplexity Pro на год
- Теперь подать заявление на брак можно онлайн через eGov.kz
- МЧС напомнило водителям о правилах зимней подготовки машин
