Люди становятся честнее, обучая ИИ
Эти выводы могут существенно повлиять на подходы к разработке и обучению ИИ.
Современные технологии ИИ все больше проникают в нашу повседневную жизнь, и их влияние на человеческие поступки привлекает внимание ученых. Недавнее исследование, проведенное в Университете Вашингтона в Сент-Луисе, обнаружило неожиданный эффект: люди, обучающие ИИ, начинают вести себя честнее и справедливее. Эти результаты могут оказать значительное влияние на развитие и применение технологий ИИ.
Исследование включало пять экспериментов с участием 200–300 человек, которым предложили сыграть в игру «Ultimatum Game». В этой игре участники договаривались о распределении небольшой суммы денег (от 1 до 6 долларов) с другими игроками — людьми или компьютером. В некоторых случаях испытуемым сообщалось, что их решения будут использоваться для обучения ИИ, что заметно изменяло их поведение.
Любопытно, что участники, которые думали, что их выбор влияет на обучение ИИ, чаще стремились к более справедливому распределению денег, даже если это означало личные потери. Это изменение поведения сохранялось даже после того, как им сообщили, что их решения больше не учитываются при обучении ИИ. Это свидетельствует о том, что взаимодействие с ИИ оказало долговременное влияние на их выбор.
Лорен Трейман, ведущий автор исследования, отметила, что участники могли быть мотивированы желанием создать более справедливый ИИ. Тем не менее, исследователи подчеркивают, что пока неясно, вызвано ли это стремление осознанием этических норм или естественной реакцией на ситуацию. Один из исследователей, Кул, предположил, что участники могли инстинктивно отвергать предложения, которые казались им несправедливыми.
Хо, ученый, изучающий взаимосвязь между человеческим поведением и алгоритмами машинного обучения, отметил: «Исследование подчеркивает значимость человеческого элемента в обучении ИИ. Поскольку большая часть обучения ИИ основана на решениях людей, важно учитывать предвзятости, которые могут возникать в этом процессе. В последние годы мы наблюдаем множество проблем, связанных с несоответствием между обучением ИИ и его внедрением».
В настоящее время Лорен Трейман продолжает исследования, стремясь глубже понять мотивацию и стратегии, которыми люди руководствуются при обучении ИИ. Она считает, что психологические аспекты необходимо учитывать в разработке компьютерных технологий, поскольку они могут существенно повлиять на качество и этичность будущих систем.
