Несколько лет назад Джон Лёрнед из Гавайского университета (США) и Майкл Хиппке из Зоннебергской обсерватории (Германия) в своём совместном труде под названием «Межзвёздные коммуникации и невозможность обезвреживания сообщений» предостерегли человечество от необдуманных контактов с внеземными цивилизациями.
Для отображения и расшифровки сложных сообщений из космоса может потребоваться использование компьютеров, говорят учёные, однако существует риск того, что сообщение окажется вредоносным, а обезвредить его мы будем просто не в состоянии. Поэтому чтобы исключить потенциальную угрозу для человечества, инопланетные сообщения должны быть немедленно уничтожены безо всяких попыток их прочитать.
Согласно исследованию от 2018 года, сообщения от внеземных цивилизаций с наибольшей вероятностью будут представлять собой сигналы, принимаемые радиотелескопами. Почему-то астрофизики полагают, что такие послания с наибольшей долей вероятности окажутся вредоносными, поэтому нам следует отказаться от их расшифровки и чтения, раз мы не можем быть уверены, что отправитель не является нашим врагом.
Наиболее вероятным типом межзвёздного сообщения, считают учёные, является послание «Космический вызов», сделанное радиотелескопом РТ-70 в Крыму. Оно представляет собой ряд двоичных символов, которые расшифровываются в виде рисунка. Если сообщение распечатать на бумаге для дальнейшего анализа, то вред может представлять только заложенный в нём смысл, но при использовании для декодирования компьютера есть риск его заражения вредоносным кодом.
В качестве возможного сценария Лёрнед и Хиппке описывают получение сообщения с библиотекой в виде искусственного интеллекта. Даже если его расшифровка будет проведена на Луне с помощью изолированного компьютера, искусственный интеллект может попытаться манипулировать людьми, а также научить человечество создавать сложные технологии, не предупреждая о возможных опасных последствиях. В общем, будьте осторожнее при контакте с инопланетянами!
Знаете, ребята, Энтерпрайз не выдержит двоих... Таких... Ученых...
Для справки. На сегодняшний день все компьютеры реализуются по модели Фон Неймана, которая не делает различия между кодом и данными. Теоретически, это позволяет передать код, замаскированный под данные, чем и пользуются хакеры, которые ломают компьютеры методом переполнения буфера, или там - инъекции... И нам кажется, что архитектура фон Неймана как раз и дает основания для такой вот гипотезы - о большом вредоносном искусственном интеллекте...
"Белая трость калибра 7,62" - очень хороший фантастический опус.
Однако на самом деле все не так.
Дело в том, что для того, чтобы реализовать инъекцию в архитектуре Фон Неймана, ДАННЫЕ ДОЛЖНЫ БЫТЬ ЗАРАНЕЕ АДАПТИРОВАНЫ ДЛЯ ИНТЕРПРЕТАЦИИ. То есть - организованы в соответствии с определенной моделью. В конкретном случае хакерской атаки - построены в формате инструкций процесора. Да еще и инкапсулированы в контейнер (формат), внятный для операционной системы...
Иными словами, либо инопланетяне берут земной компьютер, пишут для него искусственный интеллект, затем изучают программы дешифровки, выискивая в них уязвимости переполнения, и делают эксплоит, внедряющий через уязвимости конкретного земного софта написанную для земных компьютеров программу в земные компьютеры - либо они сосут лапу со своими вредоносными идеями завоевания мирового господства в рамках одной отдельно взятой планеты...
Теперь вопрос.
Если мы, имея на руках компьютер, на котором может быть запущен искусственный интеллект, абсолютно все зная об его системе команд и организации периферии, и так далее, не нашли оному компьютеру никакого иного применения, кроме как показывать нам порнуху - тогда нужен ли нам такой компьютер с такими возможностями вообще? Нужна ли нам программа, способная мыслить? Будем ли мы относиться к тому, что делает этот компьютер, иначе, чем к порнухе?
Конечно же - нет, нет и нет.
Проблема не в компьютере - проблема в нас.
Мы такие тупые, что хоть кол нам на голове теши.
Я неоднократно говорил - ни один искусственный интеллект никогда не сможет ничего сделать с естественной глупостью.
.
Journal information