Журналист издания Fast Company Рут Ридер (Ruth Reader) обеспокоился тенденцией внедрения современных компаний в личные данные пользователей с помощью новейших технологий, собрал девять пугающих инновационных разработок в своей статье и порассуждал над ними, ну а мы перевели его подборку специально для вас!
Технологическая промышленность многих экономик с каждым днём всё глубже внедряется в личные данные людей, что может привести к пугающим последствиям, напоминающим сюжеты «Чёрного зеркала». Речь идёт не только Google, Facebook или Amazon, но и об остальной части Кремниевой долины, поглощающей наш цифровой ресурс: огромное количество компаний всё чаще собирает данные о каждом нашем движении с целью получения прибыли, в том числе и теми способами, которые могут неблагоприятно и незаметно повлиять на нас.
Даже Шерил Коннелли, в целом оптимистичная сотрудница-футурист компании Ford, стала беспокоиться о будущем. По её словам, растущее экономическое неравенство, зияющий цифровой разрыв и постоянные нарушения конфиденциальности подводят нас к сюжету другого фантастического фильма-антиутопии под названием «1984».
Во многих странах существует проблема недостаточного количества правовых рамок, связанных со сбором и потенциальным злоупотреблением личными данными. В прошлом году, всего через несколько месяцев после скандала Facebook с Cambridge Analytica, Европа стала разрабатывать новые правила сбора информации в рамках «Общего Положения о Конфиденциальности Данных» (General Data Privacy Regulation). Вскоре после этих событий Калифорния приняла собственный национальный закон о конфиденциальности данных, который должен вступить в силу в 2020 году.
Новые законы стали важными подвижками в сторону конфиденциальности личной жизни в прошлом году, омрачённом скандалами и утечками в индустрии высоких технологий, которые напомнили всем нам о жуткой стороне инноваций. Вот несколько новейших технологий, за которыми нужно внимательно следить уже в этом году.
1. Распознавание лиц
Аэропорты, магазины, казино и множество других мест используют распознавание лиц, даже в режиме реального времени, для поиска подозрительных людей с помощью огромных малоизвестных баз данных. Австралия запускает собственную национальную систему сканирования лиц, а в Китае подобная технология помогает поймать преступников даже на фестивале пива, которые ничего не подозревая распивают хмельные напитки.
В декабре, когда Amazon продолжила сталкиваться с критикой за продажу услуг своего сервиса Rekognition, один из самых заметных призывов к его регулированию исходил от одного из главных конкурентов компании в сегменте искусственного интеллекта. Один из президентов Microsoft Брэд Смит писал тогда: «Мы не верим, что возможно добиться лучшего уровня обслуживания в рамках той технологической гонки, когда компании вынуждены выбирать между социальной ответственностью и рыночным успехом».
2. Аффективное распознавание
Так называемое программное обеспечение для распознавания аффекта используется не только для оценки кандидатов на работу: полиция всё чаще прибегает к системам на основе искусственного интеллекта, чтобы определить, есть ли риск того, что конкретный человек может быть опасен, основываясь на его лицевых жестах и голосе.
Некоторые эксперты описали данный метод, как современную версию физиогномики (дисциплина, изучающая связи психики и поведения со структурой мозга и чертами лица).
3. Цифровые «люди»
Лил Микаэла, очаровавшая мир своим аккаунтом в Instagram, была только началом. Сейчас уже появились цифровые ведущие новостей и такие помощники, как Google Duplex, способный звонить в рестораны и парикмахерские от имени пользователя.
Человечность «Дуплекса» была настолько реалистичной, что многие люди обвинили Google в распространении фейка, однако Fast Company опробовала услугу и убедилась в её правдивости и работоспособности. В то время как цифровые «люди» предлагаются для обслуживания клиентов, они рискуют усугубить среду, в которой живые люди не смогут отличить выдумку от реальности.
4. Цифровые фейки
Как и в случае с цифровыми людьми, технология deepfake — видео, предназначенное для того, чтобы заставить зрителей думать, что кто-то сказал или сделал что-то такое, чего он на самом деле не делал и не произносил — недавно уступила место новым методам, таким как фотореалистичное моделирование лица одного человека на голову другого прямо в видео.
В то время как одни эксперты ведут борьбу с продвинутыми цифровыми подделками при поддержке таких агентств, как DARPA, некоторые другие также поднимают тревогу о перспективе гораздо менее сложного вида атаки — распространения поддельных данных и мошеннических документов.
5. Человеческая роботизация
Google сегодня способна автоматически дополнять наши предложения подходящими по смыслу словами. Это, конечно, удобно, но принятие за нас решений компанией Google того, что мы должны написать, слегка подталкивает нас, людей, на территорию роботов.
«Большая часть прогнозирующей аналитики лежит в основе того, есть ли у нас свободная воля», — сказал специалист по технологической этике Дэвид Полгар представителю Fast Company Марку Уилсону. — «Я выбираю следующий шаг или Google? И если компания может предугадать мой следующий шаг, то что это говорит обо мне?».
Между тем, водители такси и другие работники с алгоритмическим управлением сталкиваются с таким же важным вопросом, пишет Алекс Розенблат, автор Uberland: «Учитывая, что Uber рассматривает своих работников как “потребителей алгоритмических технологий” и продвигает их в качестве самозанятых предпринимателей, то нужно дать ответ на один непростой и непонятный вопрос: если вы используете приложение для работы, общество должно считать вас потребителем, предпринимателем или работником?».
6. Мониторинг рабочего места
Компании уже многие годы умеют отслеживать местонахождение сотрудников и следить за их общением, но сейчас их мониторинг становится почти инвазивным и максимально приближенным непосредственно к телам работников.
Например, в прошлом году Amazon получила патент на браслет, использующий тактильную обратную связь для коррекции действий сотрудников, допустивших ошибку в работе. Другие компании используют датчики в офисах для отслеживания движения и использования рабочего пространства.
7. Домашнее наблюдение
Умные домашние гаджеты расцвели в 2018 году, принеся в дом больше камер и устройства с распознаванием лиц. Facebook запустила Portal, Google расширила свою линейку Home Hub, а Amazon открыла умный сервис дверных звонков Ring в рамках кампании продвижения своих умных устройств в дома потребителей (на прошлой неделе компания заявила, что было продано более 100 миллионов устройств с Alexa на борту).
Всех нас уже тревожно поразила способность Alexa распознавать разговоры людей, но теперь компания движется к интеграции технологии распознавания лиц в свои устройства, которая, по словам «Американского союза защиты гражданских свобод», предвещает «опасное будущее». Конечно, не только Apple, Google и Amazon проникают глубже в наши дома —наши умные телевизоры тоже смотрят на нас.
8. Злоупотребление генетикой
Редактирование генома с помощью таких инструментов, как CRISPR, обещает невероятные улучшения показателей здоровья людей, но оно также поднимает множество сложных медицинских и этических вопросов, которые угрожают затмить его потенциальные преимущества.
В октябре китайский исследователь объявил, что использовал CRISPR для создания человеческих младенцев, чьё будущее потомство будет устойчивым к вирусу СПИДа. Это вызвало широкое осуждение со стороны мирового исследовательского сообщества — редактирование генов зародышей и имплантация эмбрионов в утробу матери человека являются незаконными во многих странах — но исследование стало напоминанием о том, что инструменты генетической модификации распространяются и могут понести за собой огромные риски.
9. Генетическое тестирование
По мере роста рынка ДНК-тестирования, который, как ожидается, к 2022 году разрастётся до 310 млн долларов США , возросли и опасения по поводу тайного использования и злоупотребления генетическими данными. Многие потребители не понимают, что генетические данные, которые они предоставляют компаниям, проводящим тестирование ДНК, могут быть переданы множеству сторонних организаций, таких как, например, фармацевтические компании, что прописано лишь в глубоких недрах условий политики конфиденциальности, которые большинство людей, как правило, читает очень невнимательно.
Компании же настаивают на том, что обмениваются анонимными данными только с согласия пользователей, но не все регулирующие данный аспект организации с этим согласны: в июне Fast Company сообщила, что Федеральная торговая комиссия расследует несколько компаний по тестированию ДНК — возможно, по вопросам конфиденциальности. Между тем, сайты ДНК-фирм также являются лакомым куском для хакеров, что создаёт плачевную перспективу утечки, подобной Equifax (американское бюро кредитных историй, в сентябре 2017 года подвергшееся крупнейшему взлому, открывшему персональные данные 145,5 млн человек).
По мере того, как общественность и защитники частной жизни призывают к усилению контроля над сбором данных и правовой защитой, у самих технологических компаний появился проблеск надежды: с помощью протестов и писем работники всё чаще привлекают своих работодателей к ответственности за злоупотребление личными данными и за опасность продуктов, которые они продают. Без строгих правил люди могут не уследить за жуткими технологиями, рискующими стать опасными.
Мнение Big Geek
Удивительно, какими огромными шагами человечество каждый день идёт в то будущее, какое ещё пять-десять лет назад считалось фантастикой. Тем не менее, сюжеты многих фантастических произведений намекали и намекают нам о том, что у глубокой интеграции технологий в жизнь людей есть обратная сторона.
Если честно, о некоторых современных тенденциях лично я узнал непосредственно во время перевода статьи, и некоторые из них правда пугают: например, браслет для коррекции сотрудников (электрошокер бы ещё надевали) и искусственно выведенный человеческий младенец.
Остаётся только надеться, что здравый смысл большинства неравнодушных людей возьмёт верх над необузданной машиной прогресса.