Борьба с монополистами за информационную справедливость в интересах всего человечества не угасает. Canonical и Ubuntu следуют заветам В. П. Иванникова — это миссия, означающая очеловечивание и гуманизацию информационных технологий.

Чем же так интересны работы в области программирования? Это безопасность программного кода и технологии анализа массивов данных. Погоня за «умными» вещами, «умными» устройствами» перетаскивающими на себя многие заботы человека может обернуться катастрофой, не менее «умными» киберугрозами и кибертерроризмом. Марк Шаттлворт, основатель системы Линукс-Убунта считает, что «Компьютер уже не просто устройство. Это продолжение ваших мыслей и ваша связь с другими людьми». Думаю, Виктор Петрович с ним бы согласился — «Когда происходит какое-то качественное изменение в мире, всегда возникает его антипод».

Если подытожить, то Институт системного программирования занимался созданием операционных систем, компиляторов, систем управления базами данных, то есть, по сути создавал то, с помощью чего можно управлять миром в целом и каждой страной в отдельности. Собственно, вот почему во всем мире так ценят программистов, причем управляемых, решающих государственные или коммерческие задачи — в зависимости от того, кто платит. А свободное программное обеспечение (СПО) это команды программистов, которые объединяются и в свободное от работы время создают полезные программы и базы, которыми может пользоваться каждый житель Земли на свое благо — пользоваться, их исследовать, изменять под себя и распространять дальше. Конечно же, с открытыми исходными текстами.

В этом разница. СПО — программное обеспечение, которое пользователь имеет право неограниченно раз устанавливать, запускать, а также это свободное использование, изучение, распространение и изменение (совершенствование) защищено юридически авторскими правами при помощи свободных лицензий. Продвигают все эти свободные идеи известные всему миру айтишники, такие как Ричард Мэттью Столлман, Брюс Перренс, Лоуренс Лессиг. Продвигал и Виктор Петрович.

Вот отрывок из его интервью 2009 года. «С 90-х годов в России стал доминировать индивидуализм: каждый сам за себя и каждый решает свои задачи. А власть — тоже часть нашего общества и там каждый смотрит, что он будет с этого иметь, так как наша власть далеко не идеальна. Но если будет развиваться гражданское общество, это повлияет на то, что из себя будет представлять наша власть. РАСПО и будет являться небольшим кусочком гражданского общества. Конечно, власть может не обращать на эту работу внимания. Но очень трудно не обращать внимания, когда говорит не один человек, а высказывается мнение сообщества. Тем более, если оно своей работой приобретет хоть маленький, но вес. Я считаю, что государство должно активно участвовать в развитии общества, вкладывать налоговые поступления в науку, образование, в том числе и в развитие свободного программного обеспечения. Это очень нетривиальная задача, потому что любую никчемность можно объявить свободным программным обеспечением, но она от этого не перестанет быть никчемностью. А у нас в стране существует великолепно отработанный механизм растранжиривания бюджетных денег. Поэтому здесь нужна очень серьезная работа экспертов для того, чтобы понять, а какие цели стоят перед государством в текущий момент, угадать, какие цели будут стоять перед государством завтра.

Понимаете, нельзя жить только текущим днем».

Нельзя жить только текущим днем.

Заглянем в завтра… Какие еще секреты скрывает работа программиста? И вот изнанка технических задач — они решают задачи социальные, глобальные, увы, некоторые решают их не из морально-этических законов человечества, а исходя из своих маленьких карманных финансовых или иных запросов. Что делает сейчас новый директор ИСП РАН господин Аветисян? Увы, нам не удалось узнать это. Из его редких интервью и сообщений пресс-службы — «Продолжаю дело профессора Иванникова В.П.», но ведь это не ответ, правда?

Один момент, достойный внимания общественности — на следующий год после смерти профессора были запатентованы многие открытия Виктора Петровича, но не на его имя…

Где экспертная оценка ученым миром этих открытий? Её нет…

«Умные» системы уже вокруг нас

Программное обеспечение это… ИИ (искусственный интеллект). Вот в чем главный секрет, который унес с собой в мир иной академик Иванников. Он прекрасно осознавал, какого «джинна» выпустили в мир. Под искусственным интеллектом обычно подразумевают созданные системы, которые способны мыслить и действовать разумно. В их число входят множество приложений, таких как алгоритмы поиска Google и механизмы, обеспечивающие автономное перемещение беспилотных автомобилей. Технологии ИИ, собственно программный код уже несколько десятилетий стали активным полем игры не только рынка, но и геополитического соперничества. А точного определения терминов и этического закона «цифровизации» и «ИИ-зации» общества нет. Об опасности «облегчения» своей жизни человека неоднократно предупреждали Стивен Хокинг, Илон Маск и Билл Гейтс. Эти великие умы человечества предполагают, что за ИИ нужно пристально следить — ведь он гораздо быстрее эволюционирует, чем человек и может стать «центром управления» человечеством.

Сценарии опасного мира с контролем ИИ сотни раз описаны в книгах фантастов, а теперь еще и ученых и людей бизнеса… По ним сняты кинокартины, разворачивающие мир апокалипсиса, но людей больше радует перспектива «переложить на плечи роботов» свои рутинные обязанности — заказать билеты на самолет или продукты на электронного секретаря, получать уведомления о просроченных продуктах от холодильника, прогноз погоды от метеосистемы, обучаться иностранным языкам во сне с подключенным кабелем и пр. Да, искусственный интеллект может привести и в рай, все зависит от того, кто и как его программирует и с какими целями. Предположим, технические задания для него формируют террористы — их задача убить как можно больше людей, прикрываясь благими целями. ИИ все равно быть злым или быть добрым, в его «понимании мира» этого нет. Есть задача и ее нужно выполнить. Или ИИ задают цель — глобальное улучшение климата на планете. При его расчетах, допустим, получается, что нужно уничтожить все человечество. Или цель — сохранить человеку здоровье. Помимо медицинских манипуляций, ИИ пойдет дальше — будет запрет на многое из того, к чему мы привыкли и контроль за соблюдением запрета. На сегодняшний день у ИИ предполагается функция необязательного контроля за исполнением. А что будет, если она станет обязательной? И, конечно, то, над чем всю жизнь работал академик Иванников — обнаружение и устранение ошибок в программном коде. Искусственный интеллект, работающий с неполными данными, способен ошибиться, поскольку невозможно знать все обо всем в мире. Может быть ученые найдут способ, чтобы он сам убирал ошибку после ее нахождения, но… Тут во всем этом слишком много но. Становится жутковато.

У человека есть ограничения человеческого интеллекта, у машины их нет. И в результате может появится ИИ, который будет «умнее» любого человека на земле, но не будет иметь ни психики, ни человечности, ни умения договариваться, прощать, принимать человека.

Хватит ли у создателя сил контролировать ИИ? Убедить, запрограммировать ИИ так, чтобы он всегда считал своим создателем человека? Сложный вопрос, почти нерешаемый — ведь сегодня люди не могут договориться друг с другом, понять и принять сторону своих близких, как в той истории, что мы вам рассказываем…

В 2019 году президент РФ Владимир Путин предложил разработать этические нормы взаимодействия человека с искусственным интеллектом: — «Сейчас во всем мире разворачивается дискуссия о социальных аспектах и последствиях использования искусственного интеллекта, это очень важная тема. Предлагаю профессиональному сообществу, компаниям подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».

Астахова Анна
член союза журналистов России
в соавторстве с адвокатом Аранибаром Антоном

Астахова Анна

Координатор Российского общественного движения активных граждан РОД «Хранители России»; Координатор Медиасовета КС НСБ России; член Редакционного совета национального Медиапортала о безопасности «Хранитель»