В 2023 году технология искусственного интеллекта (ИИ) пережила взрыв популярности, благодаря восторгу по поводу ее возможностей в генерации человекоподобных данных, достигнув новых вершин, передает Bizmedia.kz.
Само собой, при таком стремительном развитии, практикующие специалисты столкнулись с рядом проблем, включая феномен «галлюцинаций» — явление, когда модели порождают неточные или вымышленные ответы, затрудняя широкое применение.
Тем не менее, компании, занимающиеся разработкой таких моделей, оперативно отреагировали на вызов. Один из эффективных методов борьбы с галлюцинациями — предоставление моделям «контекста», обычно извлекаемого из векторных исходных данных и доступного в процессе генерации ответов (RAG), как пояснили аналитики JPMorgan в своем новом исследовании для клиентов.
«Использование расширенной генерации (RAG) стало важным элементом для максимального раскрытия потенциала LLM. RAG обеспечивает контекст модели, эффективно уменьшая галлюцинации и сохраняя ответы, соответствующие заданному вопросу. Этот метод также использует текущие или собственные данные, не учтенные в процессе обучения», — отмечают аналитики.
Специалисты также подчеркнули, что даже OpenAI рекомендует использовать более компактные и быстрые модели, такие как «textembedding-003», что позволяет снизить цену на 95% для моделей встраивания.
Этот подход включает кодирование и сжатие обширных текстовых массивов для сканирования и индексирования в базах данных, предназначенных для таких функций ИИ, как вопросно-ответные системы, поиск и добыча данных.
«Например, проект Microsoft (NASDAQ:MSFT) продемонстрировал использование вкраплений слов из LLM в Azure Cognitive Search для создания поискового опыта, который учитывает взаимосвязи между сущностями в запросе и товарами в каталоге», — отмечают аналитики.
Другие крупные технологические компании также достигли значительных успехов в развитии своих проектов в области искусственного интеллекта. Например, Google (NASDAQ: GOOGL) переименовала Bard в Gemini, выпустив модель Ultra 1.0 по цене 20 долларов в месяц для пользователей мультимодальных приложений.
Anthropic последовала примеру, выпустив Clauе 2.1, улучшив точность, уменьшив галлюцинации, увеличив контекст и снизив стоимость.
Компания Apple (NASDAQ: AAPL) также присоединилась к этому движению, представив 4M и Ferret, которые превосходят ChatGPT-Vision благодаря методам обучения внутри контекста.