Компания Tesla Inc заверяет миллионы владельцев своих электромобилей в том, что их конфиденциальность «была и всегда будет чрезвычайно важна». На ее сайте отмечается, что камеры, которые она встраивает в автомобили для помощи в управлении, «разработаны с нуля для защиты частной жизни», передает Bizmedia.kz со ссылкой на Reuters.
Новость 4 строками. Читайте, если вам интересно
- Записи с частных камер, снятые автомобилями, распространялись в чатах, говорят бывшие работники
- Среди распространенных роликов был один, на котором ребенка сбили, говорят бывшие сотрудники
- Tesla заявляет, что записи, сделанные камерами автомобилей, «остаются анонимными».
- На одном из видео был запечатлен подводный аппарат из фильма о Джеймсе Бонде, принадлежащий Илону Маску
Камеры Tesla: что они видят, какие тайны хранят
Однако, согласно интервью, данному агентством Reuters девятью бывшими сотрудниками, в период с 2019 по 2022 год группы сотрудников Tesla часто делились через внутреннюю систему обмена сообщениями инвазивными видеороликами и изображениями, записанными автомобильными камерами клиентов.
Некоторые из этих записей застали клиентов Tesla в неловких ситуациях. Один из бывших сотрудников описал видео, на котором мужчина подходит к автомобилю полностью обнаженным.
Также, стали доступны аварии и инциденты, связанные с дорожным беспределом. По словам другого бывшего сотрудника, на одном из видео ДТП 2021 года видно, как автомобиль Tesla на большой скорости едет по жилому району и сбивает ребенка на велосипеде. Ребенок полетел в одну сторону, а велосипед — в другую. Видео распространилось по офису Tesla в Сан-Матео, Калифорния, через частные чаты один на один, «как лесной пожар», — сказал бывший сотрудник.
Другие изображения были более обыденными, например, фотографии собак и забавных дорожных знаков, которые сотрудники превращали в мемы, украшая их забавными подписями или комментариями, а затем размещали в частных групповых чатах. Некоторые сообщения были доступны только для двух сотрудников, а другие могли видеть десятки людей, по словам нескольких бывших работников.
В своем онлайн-уведомлении о конфиденциальности клиентов Tesla заявляет, что «записи с камер остаются анонимными и не связаны с вами или вашим автомобилем». Однако семь бывших сотрудников сообщили Reuters, что компьютерная программа, которую они использовали на работе, могла показать местоположение записей, что потенциально могло раскрыть место проживания владельца Tesla.
Один из бывших сотрудников также заявил, что некоторые записи были сделаны, когда автомобили были припаркованы и выключены. Несколько лет назад компания Tesla получала видеозаписи со своих автомобилей даже в выключенном состоянии, если владельцы давали на это согласие. С тех пор она перестала это делать.
«Мы могли видеть гаражи людей и их частные владения», — говорит другой бывший сотрудник. «Предположим, у клиента Tesla и в гараже было что-то характерное, люди могли бы опубликовать такие записи».
Компания Tesla не ответила на подробные вопросы, направленные по этому опусу.
Около трех лет назад некоторые сотрудники обнаружили видео уникального подводного аппарата, припаркованного в гараже, и поделились им с двумя коллегами. Белый подводный аппарат Lotus Esprit, прозванный «Мокрая Нелли», был показан в фильме о Джеймсе Бонде 1977 года «Шпион, который меня любил».
Владелец этого автомобиля и гаража — глава компании Tesla Илон Маск, который купил его за 968 000 долларов на аукционе в 2013 году. Неясно, знал ли Маск о видео или о том, что оно было выложено в общий доступ.
Маск не ответил на запрос комментария.
Чтобы написать эту статью, агентство Reuters связалось с более чем 300 бывшими сотрудниками Tesla, которые работали в компании в течение последних девяти лет и участвовали в разработке системы автономного вождения. Более десяток человек согласились ответить на вопросы, но все они говорили на условиях анонимности.
Reuters не удалось получить ни одного из общих видео или изображений, которые, по словам бывших сотрудников, они не сохранили. Информационное агентство также не смогло выяснить, продолжается ли практика обмена записями, которая имела место в некоторых подразделениях Tesla еще в прошлом году, и насколько широко она распространена. Некоторые бывшие сотрудники, с которыми удалось связаться, заявили, что единственное, что они наблюдали, это обмен записями в рамках законных рабочих целей, например, для получения помощи от коллег или начальства.
Проверка маркировки пешеходов и уличных знаков
Обмен конфиденциальными видеозаписями демонстрирует одну из малозаметных особенностей систем искусственного интеллекта: они часто нуждаются в помощи людей, чтобы обучить машины автоматизированным задачам, таким как вождение.
С 2016 года компания Tesla нанимает сотни людей в Африке, а затем в США для маркировки изображений с целью научить свои автомобили распознавать пешеходов, уличные знаки, строительную технику, двери гаражей и другие объекты, встречающиеся на дорогах или в домах клиентов. Для этого специалисты по маркировке данных получают доступ к тысячам видеороликов или изображений, снятых камерами автомобилей, и идентифицируют объекты.
Компания Tesla все больше автоматизирует этот процесс и в прошлом году закрыла центр маркировки данных в Сан-Матео, штат Калифорния. Однако она продолжает нанимать сотни специалистов по маркировке данных в Буффало, штат Нью-Йорк. В феврале Tesla заявила, что за предыдущие шесть месяцев количество сотрудников там выросло на 54% и достигло 675 человек.
Два бывших сотрудника заявили, что их не беспокоит обмен изображениями, сказав, что клиенты дали свое согласие или что люди уже давно отказались от разумных надежд на сохранение личных данных в тайне. Однако трое других сказали, что это их беспокоит.
Один из бывших сотрудников заявил: «Честно говоря, это было нарушением неприкосновенности частной жизни. И я всегда шутил, что никогда не куплю автомобиль Tesla после того, как увидел, как они обращаются с некоторыми из этих людей».
Другой сотрудник выразил свою обеспокоенность, говоря: «Меня это беспокоит, потому что люди, которые покупают машину, я не думаю, что они знают, что их частная жизнь не уважается… Мы можем видеть, как они стирают белье и занимаются интимными вещами. Мы можем видеть их детей».
Еще один бывший сотрудник не считает, что обмен изображениями был неправомерным, но считает, что функция, позволяющая владельцам данных просматривать местоположение записей на картах Google, является «массовым вторжением в частную жизнь».
Дэвид Чоффнес, исполнительный директор Института кибербезопасности и конфиденциальности при Северо-восточном университете в Бостоне, назвал обмен конфиденциальными видео и изображениями сотрудниками Tesla «морально предосудительным».
Он сказал: «Любой нормальный человек был бы потрясен этим». Он также отметил, что распространение конфиденциальных и личных материалов может быть нарушением политики конфиденциальности компании Tesla, что может привести к вмешательству Федеральной торговой комиссии США, которая обеспечивает соблюдение федеральных законов, касающихся конфиденциальности потребителей.
Представитель ФТК заявил, что не будет комментировать поведение отдельных компаний.
Для разработки технологии самоуправляемых автомобилей, компания Tesla собирает огромное количество данных из своего глобального парка, насчитывающего несколько миллионов автомобилей. Компания требует, чтобы владельцы автомобилей давали разрешение на сенсорных экранах машин, прежде чем Tesla будет собирать данные об их автомобилях. На сайте Tesla говорится: «Ваши данные принадлежат вам».
В своем Уведомлении о конфиденциальности клиентов, Tesla объясняет, что если клиент соглашается на обмен данными, «ваш автомобиль может собирать данные и предоставлять их Tesla для анализа. Этот анализ помогает Tesla улучшить свои продукты, функции и быстрее диагностировать проблемы». Также говорится, что данные могут включать «короткие видеоклипы или изображения», но они не связаны с учетной записью клиента или идентификационным номером автомобиля, «и не идентифицируют вас лично».
Карло Пильтц, юрист по вопросам конфиденциальности данных в Германии, сказал Reuters, что будет трудно найти юридическое обоснование в соответствии с европейским законом о защите данных и конфиденциальности для распространения записей с автомобилей внутри компании, если это «не имеет ничего общего с обеспечением надежности или безопасности автомобиля или функциональности» системы самостоятельного вождения Tesla.
В последние годы система автомобильных камер Tesla вызывает споры. В Китае некоторые правительственные учреждения и жилые кварталы запретили использование автомобилей Tesla из-за опасений по поводу их камер. В ответ на это, в 2021 году Маск заявил в виртуальной беседе на китайском форуме: «Если Tesla будет использовать автомобили для шпионажа в Китае или где-либо еще, нас закроют».
В других странах регулирующие органы тщательно изучают систему Tesla на предмет возможных нарушений конфиденциальности. Однако, дела о защите частной жизни, как правило, касаются не прав владельцев Tesla, а прав прохожих, которые не знают о том, что их могут записывать припаркованные автомобили Tesla.
В феврале голландское Управление по защите данных (DPA) заявило, что завершило расследование в отношении компании Tesla по поводу возможных нарушений неприкосновенности частной жизни, связанных с «часовым режимом», функцией, предназначенной для записи любой подозрительной активности припаркованного автомобиля и оповещения владельца.
«Люди, которые проходили мимо этих автомобилей, снимались на камеру, не зная об этом. А владельцы Tesla могли посмотреть на эти изображения», — сказала член правления DPA Катя Мур в своем заявлении. «Если человек припарковал один из этих автомобилей перед чьим-то окном, он мог заглянуть внутрь и увидеть все, что делает другой человек. Это серьезное нарушение неприкосновенности частной жизни».
Наблюдательный орган решил, что юридическую ответственность за записи, сделанные их автомобилями, несут не Tesla, а их владельцы. По словам представителей DPA, они решили не штрафовать компанию после того, как Tesla заявила, что внесла ряд изменений в режим Sentry Mode, включая импульс фар автомобиля, чтобы информировать прохожих о том, что их могут записывать.
Представитель DPA отказался комментировать выводы Reuters, но в электронном письме он сказал:
«Персональные данные должны использоваться с определенной целью, а чувствительные персональные данные должны быть защищены».
Замена водителей-людей
Компания Tesla назвала свою систему автоматизированного вождения Autopilot. Эта система была представлена в 2015 году и включает передовые функции, такие как возможность смены полосы движения при нажатии на сигнал поворота и параллельная парковка по команде.
Для работы системы Tesla первоначально установила сонарные датчики, радар и одну камеру на лобовом стекле. В последующей версии, которая была представлена в 2016 году, было установлено восемь камер по всему периметру автомобиля для сбора большего количества данных и расширения возможностей.
В будущем глава компании, Илон Маск, планирует создать режим «полного самодвижения», который заменит водителя-человека. Tesla начала внедрять экспериментальную версию этого режима в октябре 2020 года.
Несмотря на то, что водитель должен держать руки на руле, в настоящее время система предлагает такие функции, как автоматическое замедление автомобиля при приближении к знакам остановки или светофорам.
Система «Автопилот» компании Tesla
В феврале этого года компания Tesla отозвала более 362 000 американских автомобилей для обновления программного обеспечения системы полного автономного вождения, после того как Национальная администрация безопасности дорожного движения заявила, что это может позволить автомобилям превышать скорость и потенциально вызывать аварии на перекрестках.
Как и во многих проектах с искусственным интеллектом, для разработки Autopilot компания Tesla наняла специалистов по маркировке данных для идентификации объектов на изображениях и видео, чтобы научить систему, как реагировать, когда автомобиль находится на дороге или на стоянке.
Изначально Tesla поручила маркировку данных некоммерческой организации из Сан-Франциско, известной как Samasource, рассказали люди, знакомые с вопросом. Эта организация имела офис в Найроби, Кении, и специализировалась на предоставлении возможностей для обучения и трудоустройства женщин и молодежи, находящихся в неблагоприятном положении.
В 2016 году Samasource предоставила Tesla около 400 работников, по сравнению с первоначальными 20.
Однако, к 2019 году Tesla уже не была удовлетворена работой маркировщиков данных Samasource. На мероприятии под названием Tesla AI Day в 2021 году Андрей Карпати, тогдашний старший директор по ИИ в Tesla, сказал: «К сожалению, мы очень быстро обнаружили, что работа с третьей стороной для получения наборов данных для чего-то настолько важного просто не подходит… Честно говоря, качество не было достаточным».
Бывший сотрудник Tesla сказал о маркировщиках Samasource:
«Они выделяли гидранты как пешеходов… Они постоянно пропускали объекты. Уровень их умения обозначать был очень низким».
Компания Samasource, которая теперь называется Sama, отказалась комментировать свою работу для Tesla.
Компания Tesla решила вывести маркировку данных на внутренний рынок. «Со временем мы выросли до более чем 1000 человек (организация по маркировке данных), в которой работают профессиональные маркировщики, очень тесно сотрудничающие с инженерами», — сказал Карпати в своей презентации в августе 2021 года.
Первоначально специалисты Tesla по маркировке данных работали в районе залива Сан-Франциско, включая офис в Сан-Матео. По словам бывших сотрудников, группам специалистов по маркировке данных поручались самые разные задания, включая маркировку полос движения на улицах или аварийных автомобилей.
В какой-то момент автомобили Tesla на автопилоте испытывали трудности с выездом из гаражей и путались при столкновении с тенями или такими объектами, как садовые шланги. Поэтому некоторых специалистов по маркировке данных попросили идентифицировать объекты на видео, снятых в гаражах. В итоге проблема была решена.
В интервью два бывших сотрудника рассказали, что при выполнении своих обычных рабочих обязанностей их иногда просили просмотреть изображения клиентов в их домах и вокруг них, в том числе внутри гаражей.
«Иногда я задавался вопросом, знают ли эти люди, что мы это видим», — сказал один из них.
«Иногда я видел скандальные вещи, например, я видел сцены интимной близости», — сказал другой. «И там было много такого, что я бы не хотел, чтобы кто-то видел о моей жизни».
Этот человек вспомнил, что видел «постыдные предметы», такие как «некоторые части жизни, некоторые предметы сексуального белья… и просто частные сцены жизни, к которым мы действительно были причастны, потому что машина была заряжена».
МЕМЫ В ОФИСЕ В САН-МАТЕО
В офисе Tesla в Сан-Матео работали в основном молодые сотрудники в возрасте от 20 до 30 лет, которые привнесли культуру, где ценятся развлекательные мемы и вирусный контент в Интернете. Бывшие сотрудники описывали свободную атмосферу в чатах, где работники обменивались шутками и картинками, которые они просматривали во время маркировки.
Несколько бывших сотрудников рассказали, что некоторые маркировщики делились скриншотами, которые иногда редактировали в Adobe Photoshop, в частных групповых чатах на Mattermost, внутренней системе обмена сообщениями Tesla. Там они получали ответы от других работников и менеджеров. Участники также добавляли свои собственные картинки с комментариями, шутками или эмодзи, чтобы поддержать разговор. Некоторые из эмодзи были созданы на заказ, чтобы использовать внутренние шутки в офисе.
Один из бывших сотрудников описал обмен картинками как способ «разбавить монотонность». Другой рассказал, что обмен картинками вызывал восхищение коллег.
«Если вы увидели что-то забавное, что вызвало у вас реакцию, вы размещали это, правильно? А затем в перерыве люди подходили к вам и говорили: «О, я видел то, что вы разместили. Это было забавно», — рассказал один из бывших сотрудников компании. «Люди, которых продвигали на руководящие должности, делились многими из этих забавных вещей и приобретали известность благодаря своему юмору».
Некоторые из размещенных материалов напоминали мемы в Интернете. Там были собаки, интересные автомобили и ролики, в которых люди, запечатленные камерами Tesla, спотыкались и падали. Но были и тревожные видео, например, сцены, где людей затаскивали в машины, казалось бы, против их воли, сообщил один из бывших сотрудников.
Несколько бывших сотрудников также поделились информацией, что в частных чатах на платформе Mattermost иногда выкладывались видеоклипы аварий, в которых участвовали автомобили Tesla. Среди них были примеры плохого вождения или столкновений с людьми, на велосипеде, на мотоцикле, включая случаи с детьми. Некоторые сотрудники, занимавшиеся маркировкой данных, перематывали такие видео и воспроизводили их в замедленном режиме.
Иногда руководители компании пресекали неуместный обмен изображениями на публичных каналах Mattermost, поскольку, по их мнению, такая практика нарушала политику компании. Однако, по словам нескольких бывших сотрудников, скриншоты и основанные на них мемы продолжали распространяться в частных чатах на платформе. Сотрудники делились ими один на один или в небольших группах еще в середине прошлого года.
По словам двух бывших сотрудников, одним из преимуществ работы на Tesla в качестве маркировщика данных в Сан-Матео был шанс выиграть приз — использование служебного автомобиля на день или два.
Однако, некоторые из счастливчиков становились параноиками, когда садились за руль электромобилей.
«Зная, сколько данных способны собирать эти автомобили, они определенно заставляли людей нервничать», — сказал один из бывших сотрудников.
