"За вами всегда наблюдают": барнаульцам рассказали о глобальных угрозах в интернете

Технологии Шерлока Холмса

— Сейчас мы похожи на Шерлока Холмса — по крупицам восстанавливаем информацию о людях. Помните, как он по каким-то мелким деталям, наблюдениям, пытался понять, что произошло с человеком, кем он является, кем работает, откуда приехал и так далее.

У нас появилась возможность работать с информацией, которая распределена вокруг нас. Мы смотрим, что человек делает в интернете, в социальных сетях, и пытаемся анализировать эти данные с помощью искусственного интеллекта. Получаются интересные выводы и оптимизационные схемы. Например, мы можем сокращать расходы на складские помещения. Завозить ровно столько скоропортящихся продуктов, сколько их покупают с учетом выходных и праздников.

Но для меня, человека с более чем 15-летним опытом работы в сфере информационной безопасности, все это отдает паранойей. Тайна частной жизни перестает существовать. Мы все теперь очень хорошо предсказуемые люди.

В 2011 году английские ученые доказали, что если следить за человеком по перемещению его "трубки" в сотовой сети связи, то через две недели мы с 90% вероятностью можем предсказывать где и когда он будет. Люди постят фотографии в соцсетях, ставят хэштеги, геометки — все это создает серьезные проблемы в области безопасности.

Когнитивные технологии — интересная штука. Мы можем сделать искусственный интеллект, который предугадает действия хакера и будет на шаг впереди него, но он же создает серьезную угрозу для общества.

Для меня новые технологии — это в первую очередь наблюдение за тем или иным объектом.Большое количество информации сейчас находится в интернете, и мы можем довольно просто ее получить.

Никто до недавнего времени не думал, что можно так легко и непринужденно снять отпечатки пальцев более чем с 2 млрд человек. Когда на iPhone “прикрутили" распознавание отпечатков пальцев, все начали возмущаться. А когда вышли телефоны на Android с этой же технологией, все уже промолчали.

Сам по себе сотовый телефон позволяет собирать много информации о человеке. Если к нему добавить еще умные часы и фитнес-браслет, то можно заниматься планированием. Мы можем, например, узнать, сколько пива выпил человек за текущий сеанс связи. В каких местах своего пребывания он испытывает стресс.

Люди не снимают фитнес-браслеты даже на ночь, мониторинг сна подталкивает этого не делать. Так можно узнать то, что вообще никто не знает. Что происходит между двумя людьми в закрытой комнате при выключенном свете.

Кто-нибудь смотрел, как фитнес-браслет обменивается данными с китайскими серверами? Кто-нибудь знает, что с этими данными происходит в Китае?

Сейчас атаки осуществляются уже не только на компьютеры и смартфоны, но и на бытовую технику, которая подключена к интернету вещей. Атакуют холодильники, кофеварки и так далее.

Возникает проблема: мы отдаем нашему умному дому информацию, но при этом не знаем, чем наш умный дом занимается, пока нас нет, не понимаем его логику работы. Не знаем, как он будет реагировать в том или ином случае, можем только предполагать. И возникает вопрос: а на основании чего мы вообще должны доверять умному дому? Мы уверены, что умный дом работает на нас? Эти технологии точно созданы для нас?

Школьники из Новоалтайска построили умный дом.

Все держится на доверии

— Несколько лет назад было опубликовано исследование американских ученых, которые следили за поисковой выдачей Google. Они заметили, что предпочтения человека сильно меняются от того, какую выборку дает ему поисковая система.

Что происходит с человеком, который безоговорочно доверяет историям из интернета? Я преподаватель, и мне интересно общаться со студентами, которые сдают рефераты. Я им говорю: "Это ошибка". Они отвечают: "Как? Я же взял это из Википедии".

Вот оно — безусловное доверие к информации. Особенно к той, которая пришла через личный аккаунт. В России оно, скорее всего, унаследовано еще от традиции доверять печатному слову. Это создает серьезные проблемы.

Сейчас развивается новая индустрия кибероружия. 15 лет назад хакер был одиночкой и писал вредоносный код сам от начала до конца. 5-10 лет назад для того, чтобы что-то взломать, собиралась уже группа хакеров. Сейчас производство вирусов и злонамеренного ПО поставлено на поток. Ежедневно появляется 600 тыс. новых вирусов. И антивирусные компании смотрят в сторону искусственного интеллекта, потому что старые схемы перестали работать.

Как часто мы обновляем программное обеспечение на принтерах, телевизорах, роутерах и так далее? Поддержка операционной системы телефона кончается примерно через четыре месяца после его выхода на рынок. У андроидных аппаратов была уникальная история: смартфон вышел, а операционная система уже была снята с поддержки. Это означает, что все проблемы, связанные с обеспечением безопасности этого устройства целиком перекладываются на пользователя.

Проблема интернета вещей даже не в том, что он собирает много данных и мы не знаем, что с ними происходит. Проблема заключается в том, что в квартире появляется 20-30 устройств со своими операционными системами, а кто их администрирует? 30 IP-адресов — неплохая такая бизнесовая сетка. Надо нанимать приходящего админа за 15 тыс. рублей в месяц, чтобы он это все приводил в порядок.

Когда сеть управляет физическими устройствами, может возникнуть много интересных последствий. Начиная от спонтанного включения света, заканчивая включением камеры с инфракрасной подсветкой в интимные моменты для пополнения коллекции какого-нибудь порносайта. Или бесконтрольный перевод денег, например.

Мой любимый вопрос к западным вендорам: где находятся сервера? Это очень неприличный вопрос, потому что понятно: тот кто управляет серверами, может вмешаться в логику работы системы. Нам нужна российская система, потому что всегда возникает вопрос доверия.

Почему мы доверяем Visa и MasterCard? С точки зрения безопасности абсолютно ненадежная система. Кусок пластика идентифицирует человека, паролем доступа к нему служат четыре цифры. Зайдите на любой форум, где обсуждают котиков. Попробуйте там зарегистрироваться: потребуется пароль минимум 16 символов, верхний и нижний регистры и так далее. А тут к деньгам — четыре цифры.

По моему мнению, именно Visa и MasterCard — стали первым шагом к интернету вещей. И эта система держится на доверии. В интернете вещей вообще все держится на доверии.

Физики и лирики

— Системы умного дома и умного города не сможет развивать одна компания или администрация, денег не хватит. Потому эти системы должны быть открытыми. Требуется государственно-частное партнерство. В систему управления городом нужно будет пускать разработчиков со всего мира, мало ли какой сервис нам потребуется сделать. На каких условиях мы сможем их туда запустить? Что и как они там будут делать? Не создадут ли они программное обеспечение (ПО), которое разрушит наш умный город?

Сейчас есть только одна схема — предварительные испытания того ПО, которое мы пускаем в умный город. Однако она не работает в современных условиях. Процесс аттестации и сертификации очень длительный. Он занимает раза в три больше времени, чем требуется для релиза программы. И как быть, пока не понятно.

Еще пять лет назад я не мог подумать, что вскоре философы смогут влиять на рынок ИТ. Но сейчас очевидно, что в связи с когнитивными технологиями, интернетом вещей возникает множество гуманитарных проблем.

Вы едете на автомобиле, и дорогу переходит человек. Перед системой управления автомобилем стоит выбор: сбить человека или врезаться в столб и убить хозяина. Что она сделает? А если дорогу переходит 10 человек, пять из которых дети?

Этот простой пример показывает всю глубину проблемы. Возникла неожиданная междисциплинарность на стыке ИТ и гуманитарных наук. В искусственный интеллект требуется закладывать понятия "хорошо" и "плохо".

Камера из системы "умного дома" LifeControl от "МегаФона".

пресс-служба "МегаФона".

Приватности больше нет

— Мы понимаем, что 1984 год по Оруэллу уже где-то рядом. Как это произойдет? Не изменится ли отношение людей к тому, что данные о них постоянно собирают? Зачастую люди готовы пожертвовать своей свободой ради комфорта.

В XX веке придумали понятие "прайвеси": одиночество, интимность, анонимность, приватность. Я дал для себя такое его определение — иметь право остаться одиноким в обществе. Вот сидят в этой аудитории люди. У них должно быть право остаться не узнанными. Все, что связано с Big Data — прямое нарушение прайвеси.

Обработка элементарных действий требует большого доверия. Чем больше развиваются технологии интернета вещей, тем больше информации мы отдаем. Мне кажется, важно, чтобы люди понимали, даже если они просто находятся в Facebook и ничего не публикуют, они все равно делятся информацией.

Пока выступал предыдущий докладчик, я заглянул в Facebook. Он мне говорит: "Вы находитесь в Алтайском госуниверситете". Вернее, он сказал более вежливо: "Похоже, что вы находитесь в Алтайском госуниверситете". Если бы в Facebook было создано это мероприятие, он бы точно вычислил, что я нахожусь именно на нем. И нужно понимать, что эта информация пришла из США, с серверов Facebook.

В 2013 году был представлен сервис, который отслеживает траекторию движения человека на основе снимков, опубликованных в соцсетях другими пользователями. Я его видел. Меня сфотографировали, загрузили снимок в сеть. Через 15 минут мой маршрут передвижения по Нью-Йорку двухнедельной давности был готов. Я сам точно ничего не публиковал, потому что мобильный интернет в Нью-Йорке очень дорогой. Меня отследили по чужим фотографиям.

Сейчас стоит вопрос даже не только информационной безопасности, но комплексной безопасности. Начиная от физической (умный дом точно пустит вас, вам не придется ночевать на коврике?) и заканчивая ментальной безопасностью (то, что связано с прайвеси). Сейчас в мире нет ответов на эти вопросы. Если мы хотим конкурировать с ведущими компаниями, то вот список того, что сейчас требует реакции. Придумайте ответ на любой из прозвучавших вопросов, и у вас будет неплохой стартап.

Специальный вопрос

— В контексте тех угроз, о которых вы рассказали, что делать обычному рядовому пользователю гаджетов, чтобы обезопасить себя?

— Этот вопрос мне задают часто. В свое время я нашел для себя такой ответ: живите, как звезды. Понимайте, что за вами наблюдают всегда и пристально. Делайте в интернете те шаги, за которые не будет стыдно. Живите так, чтобы вашу ленту в Facebook было не стыдно показать внукам. Информация из интернета не удаляется. О вас могут писать другие люди, и вы не сможете им это запретить. Либо можете представить другую ситуацию: вы живете в большое деревне, где бабушки на завалинке знают все. Нужно жить так, чтобы у них не было тем для обсуждения вас и вашей жизни. 

Самое важное - в нашем Telegram-канале