ИИ в науке: предложена система этического аудита для сохранения ответственности
Большие языковые модели (LLM) всё чаще становятся инструментом научной работы: ими пользуются для обзора литературы, разработки гипотез, написания кода и формальных рассуждений. Однако это ставит вопрос о том, какие части исследовательского процесса должны оставаться под контролем человека, чтобы результаты сохраняли научную легитимность.
Новая работа, опубликованная на arXiv, предлагает нормативную и концептуальную основу для анализа такого делегирования. Авторы рассматривают научное рассуждение как распределённый процесс, в котором происхождение вклада может быть как человеческим, так и машинным, но ответственность за принятие результатов остаётся на человеке.
В рамках выделяются пять ключевых элементов: происхождение контента, завершённость проверки человеком, распределение ответственности, ответственное владение результатом и эпистемический итог. Это позволяет отделить происхождение утверждения от процесса его проверки и от человеческой ответственности за его использование.
Центральный тезис работы: этическая граница использования LLM в исследованиях определяется в первую очередь адекватной верификацией и ответственным владением со стороны человека, а не степенью вовлечённости самой модели. Другими словами, делегирование ИИ не обязательно снижает качество науки, если сохраняются механизмы контроля.
Для реализации этого подхода авторы вводят понятие эпистемического аудита — структурированной записи о делегировании, проверке, происхождении данных и ответственности. Такой аудит должен делать процесс принятия решений с участием ИИ прозрачным и воспроизводимым.
По мнению исследователей, предложенная система даёт формальный язык для различения ответственного когнитивного делегирования и простой передачи или игнорирования эпистемической ответственности. Это особенно актуально по мере того, как ИИ становится неотъемлемой частью научной практики.
