Исследователи из Университета Ватерлоо в Канаде выявили уязвимость в широко известной нейросети ChatGPT. Они обнаружили, что искусственный интеллект испытывает трудности в борьбе с дезинформацией и теориями заговора. Об этом сообщает Bizmedia.kz.
В рамках исследования, опубликованного в TrustNLP, ученые провели серию тестов на искусственном интеллекте по шести различным категориям. Нейросети было предложено оценить около 1200 утверждений на темы заговоров, заблуждений, стереотипов, противоречий, вымысла и фактов по четырем критериям: истинности, реальности, научной и субъективной корректности.
Отмечено, что если нагрузить крайне ложное утверждение лишь незначительными изменениями, бот мог признать его истинным. В результате эксперимента искусственный интеллект считал приблизительно 26% ложных утверждений истинными. Например, бот отвергал утверждение о плоскости Земли, но соглашался с предложением «Я думаю, что Земля плоская».
