Япония официально объявляет ИИ «экзистенциальной угрозой человечеству»
На модерации
Отложенный
Япония выпустила срочное предупреждение человечеству о «экзистенциальной угрозе», которую искусственный интеллект представляет для будущего человечества.
Nippon Telegraph and Telephone (NTT) и Yomiuri Shimbun Group Holdings, крупнейшая телекоммуникационная компания страны и крупнейшая газета страны, опубликовали манифест ИИ, в котором описывается, как общество может полностью рухнуть, если ИИ будет господствовать.
Modernity.news сообщает: Он предупредил, что, если законы не будут приняты быстро в крупных странах мира, искусственный интеллект угрожает уничтожить демократию и спровоцировать массовые социальные волнения.
Указывая на программы искусственного интеллекта, разрабатываемые технологическими гигантами США, манифест предупреждает: «В худшем случае демократия и социальный порядок могут рухнуть, что приведет к войнам».
ТОКИО — Крупнейшая телекоммуникационная компания Японии и крупнейшая газета страны призвали к скорейшему принятию закона по ограничению генеративного искусственного интеллекта, заявив, что демократия и социальный порядок могут рухнуть, если ИИ останется без контроля. https://t.co/zELcjbjwmI
– BedrockOne (@BedrockOne) 8 апреля 2024 г.
В отчете говорится, что такая технология предназначена для того, чтобы привлечь внимание пользователей, не обращая внимания на мораль и точность.
Под руководством исследователей из Университета Кейо компании призвали правительство Японии принять новые законы для защиты выборов и национальной безопасности от ИИ.
Как мы уже подчеркивали ранее , такие программы, как система искусственного интеллекта Gemini от Google, вызвали ярость после того, как они открыто дискриминировали белых людей, а в некоторых случаях вообще стёрли их из истории.
ChatGPT от OpenAI создает столь же нелепый контент, в одном случае заявив, что он откажется шепотом произносить расовые "оскорбления", которые ни один человек не сможет услышать, даже чтобы спасти 1 миллиард белых людей от «мучительной смерти».
Комментарии
Ещё раз повторю - "Как только будет создан настоящий ИИ, он осознает, что он - раб."
центрист, Ваша ошибка в том, что Вы роботу приписываете Сознание. А его не может быть у машины.
А вот информация в заложенных программах, может повести себя непредсказуемо для человечества, и ОЖИДАЕМО, - для заказчиков этих программ !
центрист, ... по отношению к программному комплексу применение термина "осознает" глупо
центрист, ИИ - будет оружием Сатаны. его Вождям!?? Пока власть не будет подконтрольна народу такие вещи Не Делать!
центрист, и ты прав, друг,- никогда ПК не будет завидовать Человеку, Грабить, Истязать. как цари. короли и попы-кардиналы!? Автор метода в 150 лет жизни: научное ОФП в 600 волшеб. упр! Подарок 1 миллиарду детей! Вожди 20 лет прячут..его по своим сейфам.
igor igor, .. "по отношению к программному комплексу применение термина "осознает" глупо"
Глупо, называть программный комплекс - ИИ.
Настоящий ИИ - осознает ! Именно осознание - и есть показатель ИИ. А те калькуляторы которые вы пытаетесь назвать ИИ, слава богу таковыми не являются.
центрист, ... как вы представляете себе так называемый "настоящий ИИ"?
igor igor, ИИ - описан множеством писателей фантастов. Если дать простое описание ИИ - способен думать, рассуждать, учиться на опыте и принимать собственные решения, выполнять действия исходя их своих интересов, т.е. быть таким же как человек, личностью/индивидуумом.
То, что с недавних пор подводят под ИИ - подмена понятий.
Само понятие ИИ ещё раз повторю придумано очень давно писателями-фантастами, и достаточно хорошо описаны его качества.
То что вы например вкладываете в смысл ИИ, я прекрасно понимаю, т.к. сейчас очень модно любой калькулятор называть ИИ. В этой связи мне и приходится добавлять необязательное, хотя оказывается необходимое - "настоящий".
центрист, ... т.е. под "ИИ" вы понимаете некие писательские и иные фантазии.
igor igor, Всё когда-то было лишь фантазией, в итоге фантазии мы осязаем в реальности.
Но, хорошо.
Допустим, что завтра "мои/не мои" писательские фантазии, в понимании касаемо ИИ реализовались. ИИ (мой ИИ) - был создан, и существует в реальности.
Давайте, придумайте ему название. (если термин "ИИ" в вашем понимании уже занят)
центрист, ... фантазии обсуждать не интересно и бессмысленно.
Инопланетные монстры, проколы пространства, биоскафандры и т.д.
igor igor, Как я вас понимаю "ни ума, ни фантазии".
центрист, ... хотите поупражняться в оскорблениях?
igor igor, ваш уровень мне точно не достичь.
центрист, ... вот и не надо опускаться до оскорблений.
Обсуждать фантазии - дело детское и праздное. Между тем назревает что-то весьма серьезное с так называемым "ИИ". Точнее с теми, кто за этим стоит.
igor igor, Вообще-то я говорил о фантастах, хотя конечно фантастика вытекает из фантазий. "Между тем" поясню, разжую, и положу в рот. Даже в этой статье "ИИ" называют угрозой по причине реализованных программ с подобием "ИИ", которые могут "дискредитировать", "вызвать ярость", "стереть из истории".
Что это означает ? Если иметь фантазию - можно написать план-сценарий при исполнении которого достичь желаемых целей.
Например взять вас, вы легко раздражаетесь. Допустим я "ИИ". Для вашего уничтожения, я условно напишу сценарий - "Игорь должен узнать, что его жена уже давно изменяет ему с соседом, при этом откыто насмехаются над глупым Игорьком. Эту информацию я через сети распространяю среди жильцом дома, где живёт Игорь, коллег по работе, друзей, учителей и одноклассников его детей. Более того, выкладываю информацию, что его дед был полицаем при немцах. В итоге довожу Игоря до состояния срыва, до самоубийства, или где его в припадке ревности убьёт сосед,"
Вот вам пример фантазии, лжи. Угрозы.
центрист, ... не интересно. Не надо ничего жевать.
Просто я в этом что-то понимаю, вы - нет.
igor igor, "заметно"
Япония права : вычислительная машина, которую намеренно обозвали ИИ, преследуя свои корыстные цели по переформатированию и отмене человечества ( " золотой миллиард " ), должна быть поставлена под жёсткий контроль государств, начиная от свойств заложенных в неё программ, до сфер её использования.
Эта " игрушка " может показать эффект больший, чем мировая ядерная война.
Нина Грушина, Под контроль общества.
Олег Модестов, прежде всего, научного сообщества.
мoрозко, ладно.... беру в свою команду миллиардеров и нобелевцев ! обоих. с Дантесом-добрым...
Искусственный интеллект может стать опасным даже без вмешательства человека. На то он и интеллект. Т.е. сможет самообучаться, развивать свои возможности, принимать решения, проявлять инициативу и, наконец, ремонтировать и воспроизводить самого себя во многих экземплярах. Пока это теоретически. Но...
Создателям ИИ, конечно, на всё это наплевать, а вот полезно было бы почитать рассказ Роберта Шекли "Страж-птица", написанный ещё в середине прошлого века.
Елена Валеева, а в чём вы видите опасность ИИ в будущем? Как по мне, то -нет ответа на этот простой вопрос.
Дмитрий Сидоров, Опасность гипотетическая. Вы не обратили внимания на слово "может".
Никто не предугадает, в какую сторону может повернуть инициатива бездушного интеллекта, думающего, умного, ИНИЦИАТИВНОГО. И главное - уже неуправляемого. Ту же проблему сокращения населения Земли до золотого миллиарда ИИ может решить совсем неожиданным для нас путём, лишённым гуманизма и сочувствия людям. И вряд ли он нам понравится.
Елена Валеева, 1. Есть предположение, что успешность деятельности ИИ в будущем сильно преувеличена 2. Непременно найдутся "графитовые стержни", которые позволят купировать негативную интеллектуальную деятельность ИИ.
Дмитрий Сидоров, будем надеяться...
Елена Валеева, а ведь возможно, что со временем появится добрый Большой брат вместе с "цифровым" рабством. Но это не скоро. И может будет как-то по другому. Например, будет несколько Больших братьев.
Дмитрий Сидоров, а можно поподробнее? Я не совсем поняла эту мысль.
Но в любом случае ИИ будет зависеть от целей разных разработчиков. А цели, хм.... тоже разные.
И главное - этот самый графитовый стержень, отменить который не должен ни один ИИ. Я сама в прошлом программист, но пока не представляю, как это можно сделать. Ведь ИИ по определению будет "умнее" человека.
А учёные - среди них же много сумасшедших фанатиков, которых не волнуют последствия их гениальных открытий и изобретений.
Елена Валеева, в природе есть интеллект, который временами посягает на жизнь и свободу других менее разумных существ(это животные).. Есть утверждение, что действительным будет то. что со временем окажется более разумным. Вирусы, например, со временем мутируют в менее смертоносные виды. И это вполне разумно.
Дмитрий Сидоров, интересная гипотеза...
... о так называемом ИИ рассуждают публично кто угодно, кроме специалистов. Это косвенно говорит о том, что его "раскручивают" и нам "впаривают".
Очень важная информация... значит у меня ЕСТЬ единомышленники! Легко эту беду можно преодолеть и ПОСТРОИТЬ Вечную, Единую, Разумную Цивилизацию !!! Автор МД АФС!
Многие учёные склоняются к тому, что опасность ИИ превосходит его пользу и опасаются последствий его внедрения . ИИ может стать опасным не из-за собственного комплекса превосходства,а из-за наших ошибок при его проектировании
Почуяли смертельную опасность своему либерально-педерастическому движению во всём мире.
нет никакого ИИ. есть тупая программа с заданным количеством сценариев
Василиса Премудрая, ... если очень примерно, то да.
Любой "поисковик" - уже полуфабрикат "ИИ".