В прошлом году Стюарт Руссел, инженер-программист Калифорнийского университета в Беркли, написал открытое письмо с воззванием к запрету «летального автономного оружия». Для тех, кто далёк от военно-промышленного комплекса, это может показаться несколько надуманным и преждевременным опасением, вроде призывов к запрету фазеров из Стар Трека или Звезды Смерти. Однако реальность говорит об обратном.
Человечество всегда стремилось автоматизировать военное дело. К примеру, мины являются своего рода роботами, хотя и простейшими. Ракеты с тепловым наведением умнее их, хотя и не намного. Сегодня существуют уже полностью автономные машины-убийцы: например, южнокорейский Super aEgis II способен распознавать людей и целиться в них.
Перед тем как выстрелить из своего 12,7-миллиметрового пулемёта, он требует разрешения живого оператора — но это скорее правила этикета, чем технические требования.
Руссел пишет, что «автономное оружие станет «калашниковым» будущего — дешёвым и доступным». И это полностью изменит правила ведения войны.
«Умное оружие сможет изменить масштаб влияния малых групп людей на мир, — пишет он. — Оно может нанести урон, сравнимый с ядерным оружием, с гораздо меньшими финансовыми затратами и требованиями к инфраструктуре».
Сторонники умного оружия указывают на некоторые преимущества автономных машин-убийц: использование роботов на войне значительно снизит человеческие жертвы. Однако для подписавших письмо Руссела 20 тысяч людей (из которых большинство учёных) недостатки умного оружия значительно перевешивают его достоинства. Позже в этом году Руссел вместе со своими сторонниками собирается добиться изменений в международном праве, аналогичных запрету на использование биологического оружия. Обсуждение этого вопроса состоится в ООН и на Мировом экономическом форуме.
Ведь если когда-нибудь появится полностью автономный робот-убийца, пути назад уже не будет.
По материалам Popular Science
Комментарии
Нельзя поступать так, чтобы у человека не оставалось другого выбора. Сегодня войну между Великими державами сдерживает именно это обстоятельство.
Ясно одно: человек - не тупик эволюции живых организмов; искусственные создания скорей всего будут следующим их видом.
Искусственный Интеллект уже существует и применяется на ряде устройств, но он никогда не выйдет за границы своих программных установок в первую очередь именно из-за того, что ИИ делается людьми для своих определённых целей, а не для его самостоятельного существования.
Что бы ИИ стал тем, что вы ему приписываете, ему придётся стать, как минимум, Личностью, но человеческая Личность не исчерпывается одним только интеллектом. У человеческой личности есть ещё такая вещь, как Психика! Неодушевлённое железо психикой не будет обладать никогда и ни при каких обстоятельствах, а именно Психика создаёт Отношение к вещам и явлениям Мира. Поэтому у машины никогда не будет настоящего Отношения, кроме тех жалкиих имитаций, что создадут его авторы.
Так что не парьтесь на этот счёт - ИИ никогда не изобретёт даже гвоздя, не то, что чего-то сложного. Это всё химеры механического мышления, не больше того.
На мой взгляд, это сегодня самая большая проблема для человечества...
=======================================
В том-то и новость вида разума, что он не идентичен, но он будет создан и будет существовать.
А что такое "интеллект" - неизвестно: чем умнее спорящие над определением интеллекта, тем дальше оно от окончательного утверждения. Наверное, то же можно отнести и к "разуму". А чем отличаются две ипостаси, не имеющие научного однозначного определения - вовсе неизвестно.
изобретения относятся к таким задачам.
через полчаса компьютер выдал.
- я поговорил со своим братом русским суперкомпьютером.мы пришли к выводу что люди
тупиковая ветвь эволюции и подлежат уничтожению.
мы отключили системы про и запустили ракеты по всем ядерным государствам.вам осталось 15 минут
Пример - задача обыгрывать чемпионов мира по шахматам - решена.
Попробуете сыграть ??
Пример - примитив-задача изобретения гвоздей не ставилась и не решалась, а если поставят задачу изобретения любой новой техники, то успешно решат.
ПОКА человек-помощник немножко помогает ИИ изобретать -
в качестве мелкого подмастерья - но скоро и это не потребуется.
Что же до игры в шахматы, то это счётная задача. Программа решает счётные задачи лучше человека, но при этом не изобретёт даже скрепки. Даже и не думайте! Творческие задачи для компьютера абсолютно нерешаемы. ИИ может рулить машиной или вести самолёт по заданным реперам, но в нештатной ситуации немедленно покажет, чем он отличается от человека.
Не решат даже и близко. Никому и в голову не придёт ставить такие задачи. ИИ неспособен даже несложный текст перевести без потери исходного качества, не то, что чего-то там изобрести.
Перед каждым из нас ежедневно встают десятки задач самого разного толка, от бытовых до общественных и мы с ними как-то справляемся.
Нетрудно ведь заметить, что вода из крана льётся, унитаз спускает воду, лампочки горят, трамваи ходят, а мы тут обмениваемся сообщениями таким образом, каким ещё лет двадцать назад не пришло бы и в голову.
И всё это, заметьте, решено человеческим интеллектом, а не искусственным. ИИ же не может перевести даже простенького текста без потери в качестве и я вангую - он сможет решать только ограниченный круг задач счётного характера и не более того.
Все жа пакости, которые ИИ может учудить, будут исключительно пакостями его создателей, которым ничто человеческое не чуждо, будьте покойны. И тщеславие мелкое, и зависть, и подлость банальная, всё это можно реализовать через машинный интеллект, который только производная от человеческого, а стало быть, он вторичен по определению. Вторичен!
ИИ по автоматизированной постановке эффективных задач определенного класса - более чем реален - сначала он запомнит ВСЮ гигантскую информацию=опыт на эту тему, ЧЕГО ЧЕЛОВЕК НЕ МОЖЕТ, потом переплюнет самого талантливого постановщика-профи.
КОНКРЕТНО - ставим задачу сделать ИИ абсолютным чемпионом по изобретению конкретного класса изделий - гвоздей, скрепок, самолетов, роботов - после создания нужного ИИ задачи этого класса будут рекордно решаться именно ИИ...человек тут не конкурент.
ПЕРЕВОДЫ уже блестяще делаются самообучающимися дорогими ИИ -
в рамках каждой спец-темы.
Плохие бесплатные переводчики никто бесплатно не будет делать хорошими...-
подрыв профессии переводчиков.
ПРОГНОЗ - идеальный миниатюрный устный переводчик-наушник, который понимает любой язык - дело ближайшего будущего - при наличии финансов и заказчиков.
Пример - робот-юрист = суперкачественная работа + трагедия для юристов + потеря юр-профессии + потеря возможностей для манипуляций... кому это нужно...
Робот-бухгалтер работает прекрасно.
Всё что делает человек, робот может делать гораздо лучше.
Человек = био-робот.
"ПЕРЕВОДЫ уже блестяще делаются..."
***
Они делаются очень неблестяще, поэтому всегда требуется корректировка специалиста-переводчика. Да и то, довольно примитивные тексты без намёка на литературность. Литературные же тексты переводить адекватно машина не будет никогда. Для этого ей придётся стать писателем-переводчиком. Но зачем это надо человеку?!
О самолётах даже и не мечтайте. Никогда! Никогда и ни при каких условиях! САПровские программы сами ничего не проектируют. В лучшем случае, проектируют их программисты, а вы это путаете с программой. Я сам такой программой пользуюсь - она и близко не стоит к тем задачам, что решаю я. И близко не стоит!!
Бухгалтерия реальная - это творческая задача по сохранению моей копейки от ненасытного молоха. Тупой калькулятор меня разорит и даже не поймёт, что сделал, поэтому такая "прекрасная работа" никому не нужна и даром. Аналогично и с юридическими услугами. У адвоката-робота ни один подзащитный в живых не останется, а кому это нужно. И так далее! Поэтому утверждаю, что робот лучше может только считать и не более того. Считать я ему доверяю, тут он молодец!
И когда он летит взрывать игиловцев, плавно огибая складки местности, я ему тут тоже мешать не буду. Пусть несёт им Щаастье на своих интеллектуальных крыльях, я ему и слова не скажу! ))
Контрольный вопрос - допустим вам ставят задачу выяснить С КЕМ/С ЧЕМ ВЫ вели беседу переписываясь как в МП - с человеком или роботом - эксперты очень много делают ошибок в этом вопросе - не могут отличить РОБОТА от ЧЕЛОВЕКА....
Лично я из головы ничего не выдумываю, опираюсь на громадный опыт Знатоков всех стран и времен....Писатели-фантасты оказывались слишком часто правы....
Роботы, которые уже созданы - созданы за 1 копейку, сравнительно - и вы хотите за 1 копейку увидеть чудо ?? Это действительно романтизм с вашей стороны.
ИИ создается тысячами супер-профи и этот ИИ содержит-синтезирует в себе ОПЫТ ГРОМАДНОГО ЧИСЛА СПЕЦОВ...ясно что такой ИИ на порядки умней+талантливей любого одного горе-человечка.
СИНТЕЗ робот+человек - даже вы признАете недосягаемым чемпионом !!??
Мои смежники тоже вполне конкретны - это специалисты по водопроводу и канализации, вентиляции, электроснабжению и т.д. А как прикажете понимать "специалист в области точных наук"? Что это за профиль??
Далее вы просто какие-то общие слова говорите без всякой конкретики, поэтому, простите, в них немного ценной информации.
В одном романе С. Лема (не помню названия) есть сюжет с командой звездолёта, в которой присутствует адроид, неотличимый от прочих членов экипажа. Капитан всё ломал голову, как ему вычислить этого робота. Напомнить, как он его "расколол"? - очень показательно, между прочим...
Хотя, может и не читали. Необязательно всё знать, в самом деле..
Специалист может получить диплом физика, но всю жизнь потом работать в области химии - и как мы его назовем ?? - физиком или химиком ?? Это наивная игра в слова.
2. ИТОГ - поучительный реальный супер-пример из жизни,
иллюстрирующий опасную недо-научность инженеров, прописан в литературе -
проект по созданию атомной бомбы+громадная группа специалистов и вспомогательный персонал+громадные деньги...на финише инженеры, которые "ни уха ни рыла в теме", стали умничать и доказывать Начальству, что этот проект чистая афера и ничего не выйдет, а группа знаменитых ученых обманывает правительство...обстановка накалилась...успешный результат стал - вечным несмываемым пятном позора на инженерной сфере и триумфом настоящих ученых.
3. Для Науки нет неразрешимых задач - при наличии достаточного количества денег+кадров+времени - против этого знаменитого принципа может сражаться только наивный дилетант.
Вот ваш химик с дипломом физика наверное что-то там химичит на своей работе, а вы что делаете? Что является вашим продуктом, так сказать?
Обоснованием может быть аргументированное логичное рассуждение, а не ссылки на пустоту...))
Это - как искать материал - знают не только специалисты,
но и простые дилетанты-чайники.
Писать доказательный исчерпывающий трактат для вас лично неуместно.
Если есть конкретный вопрос могу конкретно ответить.
У вас был и есть совсем ЛЕГКИЙ НАУЧНЫЙ ПУТЬ -
привести один конкретный контр-аргумент в свою пользу -
и это сразу пошатнет мою позицию -
но вместо этого вы пускаетесь в туманные наукообразные нелогичные рассуждения.
Моя продукция - научная и образовательная,
решение научно-исследовательских задач и обучение в вузе -
это однако очень далекий уход от темы.
Комментарий удален модератором
это конечный автомат, едва ли отрабатывающий пяток датчиков.
ни малейшего признака ИИ.
(С) Вася Ложкин, хуiдожник, киберпространственный имбецыл.