Выражение «Don’t be evil» (Не твори зла) было краеугольным камнем в Кодексе поведения Google с 2000 года по 2018-ый. Сайт Gizmodo сообщает, что в последних числах апреля оно окончательно ушло из документа и осталось только в виде символической фразы в последнем абзаце. Google отныне желает использовать свою возросшую мощь для не всегда приглядных, но выгодных затей.
Проект «Maven»
Компания Google заключила соглашение с Пентагоном, по которому она помогает армии создать ИИ для беспилотников, причем не просто военных, а ударных. По некоторым данным – штурмовиков, которые сражаются в передних рядах, а потому должны эффективно поражать живую силу. То есть убивать людей. Когда правда раскрылась, тысячи сотрудников компании подписали петицию против этого партнерства, но, по имеющимся данным она была проигнорирована. Работа по проекту Maven продолжается.
Искусственный интеллект-обманщик
Недавно представленный инструмент Duplex Google Assistant может совершать звонки от имени пользователя и весьма убедительно выдавать себя за него, используя это для заказа услуг. Критики сразу нашли множество признаков постановочного характера презентации проекта и усомнились в эффективности технологии. Но вот что примечательно – сам факт того, что ИИ выдает себя за человека, по умолчанию маскируя свои действия, признается Google само собой разумеющимся. Руководству компании под давлением журналистов пришлось пообещать, что ИИ заставят идентифицировать себя как машину в начале диалога. Время покажет, выполнит ли она это обещание.
Эгоистичная книга
Недавно произошла утечка о проекте The Selfish Ledger («Эгоистичной книги»), системе сбора видео с сотрудниками компании, которая предназначалась для анализа их личностных особенностей и поведения. В Google не стали отрицать – да, в году эдак 2016-ом мы такое делали. И применяли впоследствии техники социального инжиниринга, а также спекулятивного дизайна, чтобы «оптимизировать» рабочие процессы. Проще говоря, манипулировали людьми. И не факт, что тот опыт не лег в основу неких более глобальных систем по контролю над аудиторией.
Конечно, в Google пока не спешат примерять шлем Темного властелина. И делают много добрых и мирных проектов, от благотворительности до организации конкурсов и платформ для выявления талантов. Остается только верить, что по мере роста объемов и мощи корпорации ее «совесть» и социальная ответственность будут расти пропорционально, а не останутся на текущем уровне.