Когда холодильники бесчинствуют: этика Интернета вещей
Когда холодильники бесчинствуют: этика Интернета вещей

Первый домашний холодильник был изобретен примерно в 1914 году. А ровно сто лет спустя, в 2о14 году, зафиксирован первый случай некорректного поведения этого бытового прибора в сети. Подобно другим умным устройствам с подключением к Интернету, холодильник был взломан и начал рассылать спам-сообщения.


Холодильники и другие умные устройства стали частью нового научно-технического направления, при котором самые разнообразные предметы способны устанавливать связь между собой, обмениваться данными и даже принимать разумные решения. Холодильник может сообщить о том, что молоко закончилось, и заказать его по Интернету, а умные лампы включатся, когда на улице стемнеет или ваша машина будет подъезжать к дому. Конечно, если это не вторник – лампы знают, что по вторникам вы заходите в гости к соседу и можно включиться на полчаса позже. Такой вот дивный новый мир Интернета вещей.

Концепция распространяется на все виды устройств, которые, взаимодействуя друг с другом и совместно используя данные, обеспечивают пользователей интеллектуальными услугами и инструментами. Эти данные могут поступать откуда угодно: показания датчиков в вашем доме или на вашей одежде, местный прогноз погоды, ваше поведение в социальных сетях и ваши покупательские привычки в интернет-магазинах.

Потенциальные объемы данных просто огромны, и, чтобы извлечь из них какую-то пользу, для обработки потребуются новые математические и технические подходы. Не зря они получили название «большие данные», и теперь охватывают весь цифровой мир. Найти применение большим данным не так просто, и хотя по существу все они являются двоичным кодом, но итоговое представление может принимать форму чисел, слов, изображений, аудиозаписей и видео. Большие данные зачастую никак не структурированы, и обрабатывать приходится очень большие массивы.

Отдельно взятую единицу данных можно представить в виде точки в пространстве. Для нас привычно, что местоположение можно передать с помощью широты и долготы – GPS-координат со спутника. Они являются своего рода координатами по оси X и оси Y, двумя числами, определяющими положение точки в плоском двумерном пространстве. Добавим сюда высоту над уровнем моря – и вот, наше местоположение определяется уже тремя числами в трехмерном пространстве.

 Пойдем еще дальше и добавим к нашему местоположению текущую температуру воздуха – теперь у нас есть четыре значения в четырехмерном пространстве. Его трудно изобразить, но математические расчеты можно продолжать. Дальше мы можем добавлять все больше показателей, достигая n-мерного измерения, где n может исчисляться тысячами различных показателей, описывающих всю ту же отдельно взятую единицу данных. Музыкальная запись может быть представлена тысячами нот, а изображение – тысячами пикселей. Каждая единица данных является деталью мозаики – множества данных в многомерном пространстве. Но мы хотим извлечь из него что-то интересное, поэтому должны уметь осуществлять поиск.
Здесь к нам на помощь приходит машинное обучение – раздел искусственного интеллекта, позволяющий выделить из пространства больших данных полезные закономерности, не различимые человеком. Для машинного обучения используются специализированные математические методы, именуемые алгоритмами, позволяющие анализировать и упрощать несметное количество чисел.

Распространенным подходом является выявление кластеров – групп данных с какими-либо общими чертами, а затем установление связей уже между кластерами. Словно пастушья собака, алгоритм определяет, к какому загону (кластеру) следует отнести данные. Он может взять различные музыкальные записи и распределить их по жанрам, научившись распознавать ритм и звук ударных хеви-метала или оркестровку классических произведений. Машина способна запоминать расположение наиболее подходящих кластеров и даже изменять их границы по мере поступления новых данных.
Кластеризация не единственный способ выявить закономерности в больших данных. Для предсказания будущих изменений в облачных данных могут использоваться разные специфические математические функции, причем их набор может постепенно видоизменяться, пока не останутся лишь самые лучшие математические правила. Какой бы метод не был выбран, в результате непрерывной работы самых современных компьютерных серверов по всему миру, в больших данных выявляются общие особенности, которые затем могут отслеживаться и прогнозироваться, подобно комплексным системам прогноза погоды.  Именно благодаря математике машинного обучения и большим данным, устройства могут принимать «разумные» решения.

Способность предугадывать действия человека, основываясь на прошлом опыте и информации, полученной от других окружающих его предметов, является весьма полезной возможностью устройств. Все мы привыкли к рекомендациям компьютера по возможным покупкам в интернет-магазине или по просмотру видео на основе наших предпочтений. Теперь такая возможность будет распространена повсеместно: умный зонт подаст сигнал, если вы оставите его в коридоре, а по прогнозу погоды ожидается дождь; комната в доме престарелых сумеет разобраться, почему ее жилец неподвижен – читает ли тот спокойно книгу или потерял сознание; умный автомобиль не только поможет миновать утреннюю пробку, но и уточнит, успеваете ли вы на поезд,  есть ли в вагоне-ресторане ваши любимые датские булочки или придется покупать их в кофейной перед посадкой. Но чтобы органично вписаться в нашу жизнь, все эти устройства, проявляющие активность и предлагающие свои решения – должны обучиться «хорошим манерам».

В целом, человеческое общество придерживается этикета, определенных общепринятых норм и правил. Разумеется, эти манеры уже далеко не столь изысканны, как в сериале «Аббатство Даунтон», но всё же позволяют нам не попасть впросак в различных социальных ситуациях. Как правило, мы знаем, когда не стоит перебивать человека, насколько близко можно к нему стоять, и в каких случаях лучше избегать зрительного контакта.

Умные устройства тоже должны в какой-то мере перенять эти правила, чтобы взаимодействие с ними было как можно более естественным. Как только устройство помимо основных функций начинает выполнять дополнительные действия или предлагать нам какие-либо варианты, то наше отношение к нему тут же меняется. Знаменитый комедийный эпизод, в котором Бэзил Фолти хлещет веткой собственный «нарочно» заглохший автомобиль, является отличной иллюстрацией склонности людей к антропоморфизму – т.е. наделению человеческими качествами предметов или животных.

Холодильник, рассылавший спам, вполне может казаться нам «нехорошим холодильником» вовсе не потому, что он плохо поддерживал температуру, а именно из-за своих непроизвольных «подвигов» в сети. Теперь прибавьте к этому программирование эмоций, способность вычислительного устройства распознавать ваше настроение по выражению лица, жестам и положению тела и подстраиваться под него, все более продвинутые технологии распознавания речи и речеобразования – и иллюзия человечности устройства укрепится еще больше.
 Математические модели, определяющие реакции устройства на получаемую информацию, могут сформировать простейшие электронные личности. После того, как умные устройства начнут помогать нам, придерживаясь общепринятых норм, мы все охотнее будем видеть в них что-то человеческое. Возникает своеобразный мир, наполненный устройствами-друзьями.
По мере того, как интеллектуальное поведение распространяется на наши домашние предметы, возникают новые возможности и проблемы. С возможностями здесь все понятно – новые способы упростить нашу жизнь, где умные устройства предстают в образе домашнего помощника, аккомпаниатора музыки, фитнес-тренера или штурмана при вождении автомобиля.
Технические сложности, конечно, возникают: как эти устройства создавать, какие математические модели использовать, чтобы они были умными, коммуникабельными и безопасными. И это – лишь малая толика всех проблем. Нужна коммерческая потребность в создании этого сказочного мира со свет-мой-зеркальцами, поющими чайниками и болтливыми платяными шкафами. Покупатели должны захотеть жить в нем.

Следует учитывать и другие моральные аспекты. В каких случаях использование таких устройств будет неприличным? Что там насчет личной информации – как она собирается и используется? Кто понесет ответственность за ошибочное решение устройства? И таких вопросов много. Сейчас мы стоим у истоков Интернета вещей, но в недалеком будущем наши предметы смогут стать чуть более похожими на нас.

Авторы: Питер Макоуэн, Луис Маккаллум
Перевод - Павел Корнилов

Оригинал - http://www.theguardian.com/science/alexs-adventures-in-numberland/2014/sep/08/when-fridges-attack-the-new-ethics-of-the-internet-of-things

Национальная технологическая инициатива - Онлайн Курс от Дмитрия Пескова
Национальная технологическая инициатива - Онлайн Курс от Дмитрия Пескова