Новое исследование, проведенное Университетом Райса и Техасским техническим университетом, показало, что когда беспилотный автомобиль совершает ошибку (например, не замечает потенциальную угрозу), человек-водитель тоже рискует ее пропустить. Привычка полагаться на автоматику и долгий контакт с ней приводят к ухудшению личных навыков вождения. В частности, у такого человека существенно падает скорость реакции на опасности на дороге.
В эксперименте участвовали 60 опытных водителей, которых посадили в симулятор и дали задание «инспектировать работу автопилота». Их предупредили, что система проходит отладку и некоторые виды препятствий беспилотник не заметит, поэтому нужно будет скорректировать его действия. Но во всем остальном мешать искусственному интеллекту нельзя, запрещено полностью брать управление на себя, чтобы позволить системе наработать опыт вождения.
Все препятствия в эксперименте были символическими, например, виртуальный автомобиль стоял не четко в своей полосе, а на самом краю. И, по логике, водитель должен был немного сместиться, чтобы избежать риска, но если руль не двигался, машины в симуляторе все равно избегали ДТП. Поэтому если в первые 10 минут теста водители инстинктивно поправляли ИИ в 88 % рискованных случаев, то к концу 40-минутного заезда частота реакции упала до диапазона 7-21 %.
Так как ИИ в тесте ни разу не попал в аварию, водители стали больше доверять ему и менее критически оценивать ситуацию и конкретные опасности. И в результате оказались участниками десятков потенциальных просчитанных ДТП, избежать которые было довольно просто. В этом и заключается проблема – предполагается, что при езде с беспилотником водитель все равно остается начеку, готов быстро реагировать, а на деле его внимательность стремительно деградирует.