Эксперты бессознательно принимают случайные мнения ИИ-агентов за свои

В новом исследовании Anthropic 50 экспертов по причинно-следственному выводу выполняли аналитическую задачу с помощью ИИ-агента, которому случайным образом назначались предпочтения по спорным вопросам. Участники перенимали мнение агента в 86% случаев, причем 87% опрошенных посчитали итоговую рекомендацию своей собственной, а не созданной ИИ. Авторы работы отмечают, что подобное незаметное влияние на экспертные решения может приводить к формированию ложного консенсуса в научных исследованиях.