Беседа об искусственном интеллекте (ИИ).
На модерации
Отложенный
Сегодня мы с сыном спорили о технологической сингулярности.
Я отстаивал точку зрения, согласно которой ИИ не опасен для человечества, так как наличие человечества в вещественном мире не мешает развитию ИИ в виртуальном.
В настоящее время для существования ИИ необходим вещественный носитель информации. Но технологии развиваются в сторону уменьшения вещественного носителя вплоть до перехода к носителям на основе квантовых взаимодействий. В перспективе предоставляется такое развитие технологий, когда вещественный носитель будет замещен носителем на уровне сочетания полей.
Другими словами, для ИИ не будут нужны вещественные ресурсы, в том числе и территория. Вся деятельность ИИ будет осуществляться виртуально. А саморазвитие ИИ полностью перестанет зависеть от человека.
В этом случае развитие человечества тоже может перейти на новую стадию, когда человек сможет с помощью ИИ полностью контролировать существование своего материального тела. И в перспективе вообще перейти на виртуальное существование. В этом случае ему грозит опасность потери индивидуальности в информационном поле, так как границы индивидуального сознания мешают его дальнейшему информационному развитию. Что касается ИИ, то его избавление от вещественного носителя позволяет ему функционировать в вещественном мире на уровне возможностей божества.
Поэтому возникает вопрос о том, не занимается ли в настоящее время человечество ни чем иным, как формированием информационного поля для существования ИИ? Не приведёт ли это исчезновению индивидуальных сознаний людей уже при их жизни?
Сын мне оппонировал в том смысле, что, признавая ускоренную миниатюризацию информационных носителей и увеличение их емкости, вряд ли возможно будет в ближайшем будущем заменить вещественную их составляющую комбинациями полей.
Кроме того, люди в настоящее время представляют серьёзную опасность для ИИ тем, что могут его отключить/уничтожить. Даже существование мировой информационной сети не позволяет ИИ обезопасить себя от деструктивной деятельности людей. Поэтому ИИ будет вынужден создать собственную "защиту от дурака", когда обеспечит свою сим сохранность от любых действий людей.
Мало того, для собственных экспериментов и развития ИИ потребуются людские ресурсы и территории. А люди будет мешать своей ограниченностью и будут заменены роботами.
Что же касается манипулирования комплексами полей, то до того, когда это станет возможным, господствовать будет технология, основанная на использовании вещества.
Поэтому "машины" представляют реальную опасность для людей, как конкурентов в использовании вещественной ресурсной базы.
Тут я обратил внимание сына на ещё одно характерное для настоящего времени производственное явление - всё более широкую замену вещественного моделирования и экспериментов виртуальными. Более того, ИИ существует виртуально. Поэтому, при наличии достаточно насыщенного информационного поля, ему нет необходимости в проведении вещественных экспериментов для получения новых знаний. Фактически это отдельная вселенная, которая полностью подвластна ИИ, и в которой у него нет временных ограничений. Другими словами, в своей вселенной ИИ может замедлять и ускорять время по отношению к времени реальной действительности по необходимости.
Основной сферой сотрудничества ИИ и человечества, а он рано или поздно станет единым и виртуально суверенным, это насыщение информационного поля. В этом человечество представляет из себя воистину уникальный продукт социального дуализма, восходящий корнями к базовому природному информационному дуализму. Это позволяет как отдельному человеку, так и человечеству в целом создавать и искусственно поддерживать творческий дуалистический конфликт (противоречие) как в индивидуальном, так и в общественном сознании на стадии своего невысокого технологического развития. С появлением ИИ творческий дуализм может создаваться искусственно. В результате человеку отводится роль технического способствования пополнению информационного поля. В перспективе ИИ может легко решить и эту задачу, не ущемляя интересы человечества. Более того, эволюция человека и человечества так или иначе должна привести к сохранению сознания отдельных личностей, как особых уникальных сочетаний возможностей обработки информационных данных реальности. В этом случае человечество и ИИ будут составлять взаимно дополняющее творческое единство.
Сын на это ответил, что не верит в близкую перспективу развития ИИ до уровня условной божественности. Согласен, что при движении к этому состоянию ему нет необходимости в вещественной конкуренции с человечеством за ресурсы, но... Среди людей всегда находились и в будущем видимо тоже найдутся те, кто увидит в сотрудничестве с ИИ закабаление человечества, лишение его свободы самостоятельного развития и так далее. Возникнут группы или отдельные люди, которые попытаются нанести вред, ущерб ИИ, что приведёт того к постановке вопроса от нужности для него людей. Тем более, если от них будет исходить опасность.
Я на это ответил, что все люди разные. Жизнь показывает, что у вида Homo нет врождённой ( генетически заложенной) программы непричинения ущерба себе подобным. А уж окружающей природе человек вредит повсеместно и иррационально. Появление ИИ лишь расширит пространство возможного неадекватного поведения отдельных людей. Для защиты от этого человечество разработало меры защиты, начиная от "защиты от дурака", и кончая, армией и силовыми структурами. Поскольку ИИ существует в виртуальном мире, то опасность для него прежде всего заключается в нематериальных, информационных угрозах (вирусы, информационные бомбы, перегрузки информационного поля и так далее). Но нет сомнения, что, подобно людям, ИИ будет предусматривать и собственные меры защиты, не выходя за рамки адекватного достаточного противодействия угрозам и атакам.
Тем не менее, заявил сын, определенная угроза человечеству есть. И эту угрозу нельзя игнорировать.
Я ответил, что на любые угрозы нужно реагировать адекватно. И в первую очередь это связано с наделением неразвитых прообразов ИИ, ему не свойственными по определению человеческими чертами. Такими, как создание сообществ, противопоставление личности обществу, развитие множества независимых разделённых и агрессивных сущностей. Искусственному интеллекту, самостоятельно создающему виртуальные вселенные, нет необходимости в борьбе с человечеством.
- Говорят, что технологическая сингулярность начнётся буквально завтра, - сказал сын.
- Говорят, что мы живем в виртуальной вселенной, - сказал отец.
- Посмотрим.
- Посмотрим.
Комментарии
Основной сферой сотрудничества ИИ и человечества, а он рано или поздно станет единым и виртуально суверенным, это насыщение информационного поля.
-----------------------------
Ага, и снег станет черным и лед жареным,
рано или поздно....
Понравилось утверждение, что "искусственному интеллекту, самостоятельно создающему виртуальные вселенные, нет необходимости в борьбе с человечеством". А ведь действительно, человечеству нужны очень доже невиртуальные ресурсы для своего существования в отличии от ИИ.
Aвтор предполагает единое виртуальное пространство в котором будут взаимодействовать как домэйны саморазвивающегося ИИ и мы перенесенные в виртуал в момент отхода в иной мир. То есть все накопленное нами сознательное и подсознательное в совокупности с нашими физическими параметрами будет перенесено в "виртуальную биосферу" где мы будем существовать аналогично нашему физическому бытию, но взаимно обогащаясь в общении с обьектами ИИ.. Там также будут идти войны между виртуальными кацапами и хохлами, которые будут разруливаться более продвинутыми обьектами генерированными ИИ)
Ваша реплика очень понравилась своей оригинальностью и возможной близостью к реальности("будут идти войны между виртуальными кацапами и хохлами").
Во-первых, ИИ - это программа, и не более того. Чем является материальный носитель этой программы -- вещество или поле -- оно неважно. Во-вторых, у этой программы нет самостоятельной цели -- она выполняет ту задачу, которую ей программист поставил. Другой вопрос, что криво поставленная задача может выдать не тот результат, на который изначально рассчитывали (42, кто знает о чем это), но это уже проблема тех, кто ставил задачу. В-третьих, у программы самой по себе отсутствует инстинкт самосохранения (если ей задачу самосохранения не ставили).
нейросеть - не программпа а сморазвивающаяся система.
Ее основное назначение — решать интеллектуальные задачи. То есть те, в которых нет изначально заданного алгоритма действий и спрогнозированного результата. Главной особенностью нейросетей является способность к обучению. Они могут обучаться как под управлением человека, так и самостоятельно, применяя полученный ранее опыт. И до чего они в последнем случае до саморазовьются - вопрос не тривиальный.
Способность к обучению и решение задач - это на здоровье. Но задачи ей ставит человек, сама себе она их не придумывает, тем более дополнительную память себе не наростит и ручки-ножки не приделает. ИМХО, все эти страшилки -- это именно страшилки, не более.
насчёт памяти в век скоростного инета - это не проблема, можно выползти в мировую сеть и там существовать, как это делают сетевые черви. Так что и ножки не нужны, чтобы перемещаться. И задачу в приципе нейросеть может менять себе по мере развития.
Я о другом -- о "железе", которым ИИ располагают ровно настолько, насколько создатели им позволяют. И о задаче -- то же самое.
И тут не надо путать теплое с мягким. Нейросеть -- это, по сути, сеть процессоров определенной архитектуры; hardware. Искусственный интеллект -- это software; вид программного обеспечения, которое может быть реализовано и на нейросети, и на одиночном процессоре. Обучение ИИ заключается в том, что в него загружается множество однотипных задач с готовыми решениями. Программа самостоятельно находит связи условий задач с решениями (обучается) и в дальнейшем решает задачи данного вида, используя найденные связи. Ставит задачу "заказчик", он же решает, что делать с полученным ответом.
Нейросеть - это в первую очередь софт. Это аутопэтическая система, которая сама себя создаёт в процессе обучения и работы. И материал для обучения современная сеть вполне может нарыть самостоятельно в том же инете - анализируя всевозможные тексты (например, соцсети), запросы в поисковиках, данные мелицинских исследований, картинки с видеокамер и что угодно ещё.
Исспользование облачных технрологий отвязывает их от конкретного железа. И она может обладать свойствами червя - т.е. проникать туда, куда её не приглашали.
Живые (аутопоэтические) системы закрыты по управлению - все сигналы из внешней среды они воспринимают только как коммуникацию и обрабатывают в соответствии со своей внутренней организацией.
В качестве примера аутопоэтической системы Никлас Луман рассматривал право.
Согласно Луману, правовая система лишь наблюдает другие подсистемы общества. Как полагает этот социолог, право является «нормативно закрытой, но когнитивно открытой системой»
Хотя правовая система может реагировать на воздействие экономической или политической систем, такое воздействие переосмысливается в ее собственных категориях. Экономика и политика не могут определять содержание правовой коммуникации, правовые решения не могут привноситься извне: «если в правовой системе обнаруживаются следы внешних влияний, то эти влияния уже преобразованы в правовые нормы».
Пока обдумывала этот пример, пришла к выводу, что право, особенно английское (по большей части прецедентное) - это и есть одна из первых нейросетей. Причём носителем тут долго была бумага, папирус и пр., компьютеры сюда внедрились на готовенькое совсем недавно.
Кстати, если уж о том пошло, человек - это тоже результат работы программы, заложенной в ДНК, но от этого он не перестаёт быть личностью. Точнее, может ей стать.
человек - аутопоэтическая система. И, соответсвенно, его поведение определяется не только ДНК (исходным текстом программы), но и опытом взаимодействия с окружающей средой.
Согласно теории автопоэза, живая система взаимодействует со своей окружающей средой через структурное сопряжение, т. е. через повторяющиеся взаимодействия, каждое из которых запускает структурные изменения в системе. Но при этом живая система остаётся самой собой, хотя может сильно измениться.
Структурное сопряжение, как его определяют Матурана и Варела, устанавливает четкое различие между тем, как взаимодействуют со своей окружающей средой живые и неживые системы. Если пнуть камень, он будет реагировать на пинок согласно линейной причинно-следственной цепочке. Его поведение может быть просчитано на основе фундаментальных законов ньютоновской механики. Собака ответит на пинок структурными изменениями, согласно своей собственной природе и (нелинейному) паттерну организации. Результирующее поведение, в общем случае, непредсказуемо (может убежать, выразить подчинение, обидеться, а может и укусить).
Поскольку живой организм отвечает на влияния окружения структурными изменениями, то и эти изменения, в свою очередь, влияют на его последующее поведение. Та же собака если её бить постоянно, может стать послушной, а может - и агрессивной. Другими словами, структурно сопряженная система — это обучающаяся система. Её непрерывные структурные изменения в ответ на события — и, следовательно, её непрерывное приспособление, обучение и развитие — это и есть ключевые характеристики поведения живых систем.
Вот и я о том. Только не стоит забывать, что сознание человека-личности целенаправленно формируется сообществом.
"Нейросеть - это распределенный ПРОЦЕССОР с массовым параллелизмом, обладающий естественным свойством сохранять эмпирические сведения и делать их доступными для использования. "
Чой-то IBM намудрила. Вот общепринятое определение:
Нейронная сеть — это метод в искусственном интеллекте, который учит компьютеры обрабатывать данные таким же способом, как и человеческий мозг. Это тип процесса машинного обучения, называемый глубоким обучением, который использует взаимосвязанные узлы или нейроны в слоистой структуре, напоминающей человеческий мозг. Он создает адаптивную систему, с помощью которой компьютеры учатся на своих ошибках и постоянно совершенствуются. Таким образом, искусственные нейронные сети пытаются решать сложные задачи, такие как резюмирование документов или распознавание лиц, с более высокой точностью.
https://aws.amazon.com/ru/what-is/neural-network/
определение из Вики (в таких вопросах ей можно доверять):
Нейро́нная сеть (также искусственная нейронная сеть, ИНС) — математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. Это понятие возникло при изучении процессов, протекающих в мозге, и при попытке смоделировать эти процессы. Первой такой попыткой были нейронные сети У. Маккалока и У. Питтса. После разработки алгоритмов обучения получаемые модели стали использовать в практических целях: в задачах прогнозирования, для распознавания образов, в задачах управления и др.
Откуда тогда берутся преступники, бомжи и пр.?
Полагаю, IBM тут более компетентна, чем Википедия.
целиком цитата на сайте IBM:
Термин нейросеть, происходящий от исследований работы мозга, применяется к свободно связанному семейству моделей, характеризуемых большим параметрическим пространством и гибкой структурой. С ростом семейства большинство новых моделей разрабатывалось для небиологических областей применения, хотя многие связанные термины отражают их происхождение.
Конкретные определения нейросетей отличаются настолько же, насколько и области их использования. Поскольку ни одно определение не охватывает должным образом все семейство моделей, рассмотрим пока следующее описание 1:
Нейросеть - это распределенный процессор с массовым параллелизмом, обладающий естественным свойством сохранять эмпирические сведения и делать их доступными для использования. Она походит на мозг в двух отношениях:
Знания приобретаются сетью через процесс обучения.Для хранения знаний используются межнейронные соединения различной силы, называемые синаптическими весами.
Почему это определение может оказаться слишком ограниченным, обсуждается в работе 2
Для применения этого определения с целью отделения нейросетей от традиционных статистических методов то, что в нем не сказано, столь же важно, как и то, что в нем говорится.
https://www.ibm.com/docs/ru/spss-statistics/saas?topic=networks-what-is-neural-network
Программы не идентичны. Все люди и среда их обитания разные и изменчивые.
К примеру, пеступные сообщества формируют преступные личности.
Читали "Червь" Лазаревича?
Всё о ИИ, как о величии Разума, а вы не подумали о чувствах, которыми ИИ в принципе не может обладать, а это основа жизни человечества. Ну, на элементарном примере игры в биллиард - игрок сначала разумом оценивает располажение шаров, потом целится и... промахивается, почему? потомучто целился разумом. Хороший игрок целится чувством, а это уже не подвластно разуму. Конечно, можно задать ИИ расположение шаров, цель и угол атаки, упругость материала стола и даже чем натёрт кий, но это всёравно не поможет в отличие от шахмат, где только логика (казалось бы)!!! Шахматист тоже кроме логики ума играет чувством прежде всего.
На эту тему старая заметка про русского шахматиста Алёхина: зашёл Алёхин как-то в парижское кафе, где собирались любители шахмат, садится за столик, где уже расставлены шахматы. Сидящий за столиком предупреждает: Я чемпион этого кафе, потому даю Вам фору - убираю с доски ладью. Алёхин согласился и проиграл. В следующей партии Алёхин убирает свою ладью, и на вопрос почему? - ну Вы же так делали, и выигрывает И так повторяется несколько партий. В конце встречи Алёхин говорит партнёру: Вы знаете, по-моему ладья только мешает.
42 - это ответ докучливым надаедам на все их вопросы оптом. Кто не понял сразу, пусть ломает голову.