antfor.ru
В компании Tesla обещают вот-вот выпустить электромобиль с полностью автономным управлением, но при этом строго настаивают – всегда держите руки при движении на руле. Справедливость последнего утверждения недавно доказали хакеры на службе компании McAfee. При помощи символического кусочка темной изоленты они обманули бортовой искусственный интеллект Tesla, заставив его против правил превысить скорость на 80 км/ч!
Стив Повольный и Шиванги Триведи решили устроить экспериментальную проверку уязвимости в Tesla Model X 2016 года. Даже демонстрацию уязвимости, поскольку ни в Tesla, ни в MobilEye EyeQ3, которая поставляет «умные камеры» для этой модели, на стандартные запросы не отреагировали. Хакеры выбрали удобный, безопасный участок трассы со знаком ограничения скорости в 35 миль в час, на который и прилепили кусочек ленты длиной всего 5 см.
Примечательно, что ленту они закрепили не вертикально, чтобы визуально превратить «3» в «8», а горизонтально, просто продлив среднюю часть «3» влево. Но для программного обеспечения бортовой камеры этого оказалось достаточно, и увидев «модифицированный» знак, Tesla послушно начала стремительно ускоряться. Для неподготовленного человека это выглядело бы катастрофой – ни с того, ни с сего ИИ автомобиля внезапно сошел с ума и решил погубить своих пассажиров?
Спустя некоторое время в MobilEye EyeQ3 дали официальный ответ, в котором признали наличие уязвимости. Как оказалось, старые камеры компании в принципе не подходят для автономного вождения. В новых моделях ошибки устранены, что подтвердила и независимая экспертиза хакеров из McAfee. Но сколько других уязвимостей еще предстоит найти?
