Компания OpenAI объявила о формировании специальной команды, которая будет заниматься разработкой методов управления и контроля Искусственного Интеллекта, превосходящих по возможностям человеческий разум. Об этом сообщает Bizmedia.kz.
OpenAI формирует команду для разработки методов контроля сверхразумного ИИ
Компания OpenAI объявила о создании специальной команды, которая будет заниматься разработкой методов управления и контроля искусственным интеллектом (ИИ), превосходящим по возможностям человеческий разум. Руководит этой командой один из основателей компании и ее главный научный сотрудник Илья Суцкевер, сообщает TechCrunch.
По словам компании, такой «сверхразумный» ИИ может появиться в течение десятилетия и представлять угрозу для человечества, если не будет подчиняться человеческим ценностям и интересам. Поэтому OpenAI считает необходимым искать способы контроля и ограничения его действий.
Существующие методы настройки ИИ основаны на обратной связи от человека, но они не подходят для контроля более разумных систем, чем люди. В связи с этим, специальная команда OpenAI будет использовать искусственный интеллект для оценки и настройки сверхразумных ИИ, чтобы обеспечить их безопасность и достижение желаемых результатов.
OpenAI признает, что такой подход не гарантирует отсутствия ошибок и уязвимостей, и что настройка сверхразума может встретить неожиданные проблемы. Однако компания уверена в своем опыте в области машинного обучения и намерена делиться своими наработками с другими участниками рынка искусственного интеллекта.
Читайте также:
- С начала октября отмечено удешевление социально значимых продуктов
- Общереспубликанская акция «Таза Қазақстан» объединила более 600 тысяч человек
- В Астане в госсобственность возвращён неосвоенный земельный участок
- Еще два населенных пункта Акмолинской области подключены к природному газу
- Стали известны соперники Михаила Кукушкина и Дениса Евсеева на домашнем турнире
