Связанные, но одинокие
Евгений Зрюмов, министр цифрового развития и связи Алтайского края, отметил парадокс современности: люди стали общаться больше, чем когда-либо, но в то же время чувствуют себя более одинокими.
«Социальные сети, чаты, разные коммуникации - все это пространство вроде бы плотных контактов, но оно создает лишь иллюзию причастности. А на самом деле в таком общении мы все больше и больше чувствуем пустоту», - говорит министр.
Сегодня тема одиночества в сети становится не только художественным, но и социальным феноменом. В литературе все чаще описываются пугающие взаимоотношения, которые кто-то принимает, а кто-то нет, но это уже реальность, требующая осмысления.
По словам Антона Васильева, уполномоченного по правам человека, попытка увести часть взаимоотношений человека и власти в цифровой формат может повышать тревожность, поскольку создает ощущение, что власть отдаляется, не понимает конкретного запроса и потребности человека, невнимательна к его праву.
При этом почти половина обращений в его аппарат поступает в цифровом виде - через госуслуги или интернет-приемник. Это удобно и позволяет мгновенно получать обращения из отдаленных районов Алтайского края за считанные секунды.
Однако, как отметил омбудсмен, каждый четвертый-пятый заявитель - пожилой человек, и далеко не все обладают цифровыми навыками. Кто-то ограничен по здоровью или статусу, для кого-то эти возможности просто не существуют. Он признал, что цифровые возможности в работе помогают, но нельзя забывать о тех, кто остается за бортом.
«Цифровая среда создает дополнительные риски того, что мы становимся все менее социальными, все больше одиноки, - продолжил Антон Васильев. - Создается иллюзия присутствия еще какой-то реальности, в которой мы в действительности существуем. Причем она может весьма искусно выглядеть как настоящая».
Главная опасность, по его мнению, в том, как виртуальные возможности заменяют нормальное живое офлайн-общение. Он привел примеры, когда ИИ помогал человеку жить, но также и случаи создания образа ушедшего из жизни человека.
«Я не знаю, как к этому отнестись, - признался омбудсмен. - С одной стороны, кому-то эта потребность нужна, кто-то ее реализует. Но лишь бы это не превращалось в уничтожение человеческой природы, потому что человек без социальных отношений существовать не может».
Без иллюзий
Риски нужно предвидеть и реагировать на них этически, пока общество не выработает подходы. Например, в Казахстане уже принят документ, обязывающий предупреждать, что с человеком разговаривает робот. Это нормальная маркировка отношений, не создающая иллюзий. Также опасность состоит в том, что состояниями людей могут злоупотребить те, кто извлекает из этого выгоду.
Отдельно Антон Васильев коснулся вопроса об ответственности за решения, принимаемые с участием ИИ. Он убежден, что окончательный выбор, в том числе в правовой сфере, остается за человеком, а не за алгоритмом.
Омбудсмен предположил, что скоро, возможно, понадобится уполномоченный не только по правам человека, но и по правам искусственного интеллекта.
Предотвратить
Сергей Юдин, технический директор направления профессиональных ИИ-сервисов Яндекса, отметил, что за 10 лет работы над логическими задачами пришел к выводу, что изобретение - лишь 1% того, что необходимо для массового внедрения. Он выделил три фактора: образование, максимизацию пользы и перестройку процессов.
В качестве примера эксперт привел беспилотные автомобили. Если заменить всех водителей автономным транспортом, аварий станет в 10 раз меньше, но оставшаяся одна вызовет вопросы об ответственности. Решение задачи, по его оценке, займет еще около 20 лет, и за это время общество должно создать органы для расследования и минимизации таких случаев.
Сергей Юдин провел параллель с историей автомобилей: первый автомобиль был небезопасен, перед ним шел человек с флажком, и пешеходы были готовы к этому. Производители тоже попадали в аварии, и стоял вопрос об их вине.
«Если бы всегда наказывали производителя, у него не было бы мотивации снижать аварийность. Поэтому возникла структура: контролирующий орган, разбирающий аварии и создающий давление, и нормативная база, направляющая производителей к безопасности. Вектор должен быть направлен не на поиск виноватого, а на решение проблемы», - добавил эксперт.
Он также отметил, что технология и продукт могут работать, люди умеют ими пользоваться, но старые процессы не позволяют получить максимальную пользу.
«Для того чтобы польза максимизировалась, процессы должны измениться. Как только магазины появились в интернете и прошло 10 лет, у людей изменился процесс заказа продуктов, и мы получили эффект от технологии. Мы прошли только 1%», - говорит Сергей Юдин.
