Форум метеозависимых

Надеюсь, уважаемые читатели следят за событиями происходящими в сфере т.н. Искусственного интеллекта.
Опасения множества людей отнюдь не беспочвенны, так-как, если ранее программист создал злонамеренную программу, то он рано или поздно понесет за это наказание.
А нынче, программист подсунувший нейронной сети некий алгоритм, позволяющий мошенничать, обманывать, создавать яды и т.д. обычно заявляет, что он, якобы, сам не понимает, как функционирует его детище Так не бывает. Задание нейронной сети ВСЕГДА формирует человек! Однако чаще всего происходит так, что множество программистов занятых в сфере т.н.
ИИ не являются профессиональными математиками, не создают сложнейший математический аппарат и библиотеки "оживляющие" сами нейронные сети, а занимаются лишь написанием определенного второстепенного кода по заданным кем-то алгоритмам или ТЗ. Причем, они зачастую даже не вникают в суть подсунутых им ТЗ и алгоритмов или навязанных готовых библиотек, якобы обеспечивающих функционирование нейронных сетей...
Т.е. сейчас в сфере IT сложилась небывалая вседозволенность, что позволяет злонамеренным людям с легкостью творить чудовищные дела ничем не рискуя.
А это действительночревато чревато неописуемыми бедами.

Хочу акцентировать Ваше внимание на двух событиях.

Первое - письмо написанное И.Маском со товарищи, где они предлагают установить шестимесячный мораторий на продолжение работ в области развития ИИ.
Илон Маск назвал искусственный интеллект одной из главных угроз человечеству!

Второе, не столь широкоизвестное событие - статья Элизера Юдковского ( ELIEZER YUDKOWSKY ) в журнале Time, где он критикует заявление Маска утверждая, что шестимесячный мраторий не решит проблемы, а следовало-бы вовсе запретить любые научные и практические исследования и лабораторные опыты в сфере создания Искусственного интеллекта. Причем, автор, для реализации этой идеи, предлагает принимать крайне жесткие меры...

Ниже привожу перевод небольшого, но важного фрагмента вышеуказанной статьи Юдковского :

"Выключите все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ). Отключите все большие тренировочные заезды. Установите потолок того, сколько вычислительной мощности можно использовать для обучения системы ИИ, и снизьте его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил. Немедленно заключайте многонациональные соглашения, чтобы предотвратить перемещение запрещенных видов деятельности в другие места. Отслеживайте все проданные графические процессоры. Если разведка сообщает, что страна, не входящая в соглашение, строит кластер ГПУ, пугайтесь не столько перестрелки между странами, сколько нарушения моратория; будьте готовы уничтожить мошеннический центр обработки данных авиаударом.
Ничего не выдавайте за конфликт национальных интересов, дайте понять, что всякий, кто говорит о гонке вооружений, — дурак. То, что мы все живем или умираем как один, в данном случае является не политикой, а фактом природы. Четко заявить в международной дипломатии, что предотвращение сценариев вымирания ИИ считается приоритетом, а не предотвращение полного обмена ядерными ударами, и что союзные ядерные страны готовы пойти на некоторый риск обмена ядерными ударами, если это необходимо для снижения риска крупных тренировок ИИ. .
Это такое изменение политики, которое заставило бы моего партнера и меня держаться друг за друга и говорить друг другу, что произошло чудо, и теперь есть шанс, что, может быть, Нина выживет. Здравомыслящие люди, слышащие об этом впервые и разумно говорящие «может быть, не стоит», заслуживают того, чтобы честно услышать, что для этого потребуется. И когда ваш запрос на политику настолько велик, единственный способ, которым он будет реализован, — это понять, что политики будут вести бизнес как обычно и делать то, что политически легко, это означает, что их собственные дети тоже умрут.
Выключи все это. Мы не готовы. Мы не собираемся быть значительно более готовыми в обозримом будущем. Если мы продолжим это, все умрут, включая детей, которые этого не выбирали и не сделали ничего плохого."

Вот и открылаись истинные цели И.Маска. А-ведь "...еще в марте великий комбинатор подписал открытое письмо с призывом приостановить «масштбаные ИИ-эксперименты»...
И вдруг "неожиданная новость"
Маск основал ИИ-компанию для соперничества с OpenAI.

Вот какие страсти разгораются по этой очень непростой тематике.