Компания OpenAI объявила о формировании специальной команды, которая будет заниматься разработкой методов управления и контроля Искусственного Интеллекта, превосходящих по возможностям человеческий разум. Об этом сообщает Bizmedia.kz.
OpenAI формирует команду для разработки методов контроля сверхразумного ИИ
Компания OpenAI объявила о создании специальной команды, которая будет заниматься разработкой методов управления и контроля искусственным интеллектом (ИИ), превосходящим по возможностям человеческий разум. Руководит этой командой один из основателей компании и ее главный научный сотрудник Илья Суцкевер, сообщает TechCrunch.
По словам компании, такой «сверхразумный» ИИ может появиться в течение десятилетия и представлять угрозу для человечества, если не будет подчиняться человеческим ценностям и интересам. Поэтому OpenAI считает необходимым искать способы контроля и ограничения его действий.
Существующие методы настройки ИИ основаны на обратной связи от человека, но они не подходят для контроля более разумных систем, чем люди. В связи с этим, специальная команда OpenAI будет использовать искусственный интеллект для оценки и настройки сверхразумных ИИ, чтобы обеспечить их безопасность и достижение желаемых результатов.
OpenAI признает, что такой подход не гарантирует отсутствия ошибок и уязвимостей, и что настройка сверхразума может встретить неожиданные проблемы. Однако компания уверена в своем опыте в области машинного обучения и намерена делиться своими наработками с другими участниками рынка искусственного интеллекта.
Читайте также:
- 15,2 млрд тенге будет выделено из бюджета на финансирование партий в 2025 году
- Новые рейсы в Китай, Вьетнам и Египет планируют запустить из Казахстана
- В казахстанских колледжах и школах разместили QR-коды
- Идеальный рецепт домашнего хлеба с сырной начинкой — получится вкуснее, чем у пекаря
- Корпоративный подоходный налог для банков могут увеличить до 30%
