От Alex Medvedev
К Grozny Vlad
Дата 23.08.2017 20:56:05
Рубрики Современность; Армия; ВВС; Локальные конфликты;

Подписал он не просто так, а в преддверии конференции ООН по этой теме

где собираются решать пора ли запрещать производство автономных боевых систем или еще погодить. Под автономными понимают не те, которые круто умеют маневрировать и распознавать цель, а те, которые могут принимать решения об уничтожении цели самостоятельно без вмешательства человека. Например подводных-лодок безлюдных и полностью автономных, которые будут бороздить просторы океана и самостоятельно принимать решение что надо топить неопознанную подводную лодку, если она вдруг начнет массированный запуск ракет.
От Ibuki
К Alex Medvedev (23.08.2017 20:56:05)
Дата 23.08.2017 22:34:24

Re: Подписал он...

>где собираются решать пора ли запрещать производство автономных боевых систем или еще погодить. Под автономными понимают не те, которые круто умеют маневрировать и распознавать цель, а те, которые могут принимать решения об уничтожении цели самостоятельно без вмешательства человека.
Вы попробуйте в юридических терминах сформировать закон который бы запретил "автономные боевые системы", но при этом бы оставил за скобками ракеты РВВ-СД и АИМ-120.
От ttt2
К Ibuki (23.08.2017 22:34:24)
Дата 23.08.2017 23:57:59

Re: Подписал он...

>Вы попробуйте в юридических терминах сформировать закон который бы запретил "автономные боевые системы", но при этом бы оставил за скобками ракеты РВВ-СД и АИМ-120.

А в чем проблема? Они летят в определенный район и поражают найденную там цель. Если там оказалась гражданская цель виноват пилот и те кто дал ему целеуказание, а не ракета.

Вот если ракета будет барражировать часами и сама решать, сбивать или нет, это уже опасно.

С уважением
От Ibuki
К ttt2 (23.08.2017 23:57:59)
Дата 24.08.2017 00:15:51

Re: Подписал он...

>А в чем проблема? Они летят в определенный район и поражают найденную там цель. Если там оказалась гражданская цель виноват пилот и те кто дал ему целеуказание, а не ракета.
Просто прекрасно. То есть "роботы-убийцы которые летят в определенный район и поражают найденную там цель" совершено допустимы согласно Вашему определению. Большего юридического пространства роботам-убийцам и не нужно.
От ttt2
К Ibuki (24.08.2017 00:15:51)
Дата 24.08.2017 07:54:15

Re: Подписал он...

>Просто прекрасно. То есть "роботы-убийцы которые летят в определенный район и поражают найденную там цель" совершено допустимы согласно Вашему определению. Большего юридического пространства роботам-убийцам и не нужно.

Это не роботы убийцы. Обычные ракеты ВВ. Точно так же работают уже десятки лет ПКР. Протестов не слышно.

С уважением
От Ibuki
К ttt2 (24.08.2017 07:54:15)
Дата 24.08.2017 12:31:29

Re: Подписал он...

>>Просто прекрасно. То есть "роботы-убийцы которые летят в определенный район и поражают найденную там цель" совершено допустимы согласно Вашему определению. Большего юридического пространства роботам-убийцам и не нужно.
>
>Это не роботы убийцы. Обычные ракеты ВВ. Точно так же работают уже десятки лет ПКР. Протестов не слышно.
Я не даром про юридические термины написал. Что Вы сформулировали:
"Сущность X которая летит в определенный район и поражает найденную там цель" - разрешается проектом договора о запрете роботов-убийц.

Не согласны с формулировкой? Пожалуйте изменить. Только осторожно, чтобы попутно не запретить все ракеты с ГСН.
От DM
К Ibuki (23.08.2017 22:34:24)
Дата 23.08.2017 23:32:53

Ничего особо сложного в этом нет

>Вы попробуйте в юридических терминах сформировать закон который бы запретил "автономные боевые системы", но при этом бы оставил за скобками ракеты РВВ-СД и АИМ-120.
Критерий - принятие решения "по заранее определенному конкретному критерию" или "тонкий анализ". Не приписывайте КР функции ИИ :)
От Ibuki
К DM (23.08.2017 23:32:53)
Дата 24.08.2017 12:37:05

Re: Ничего особо...

>>Вы попробуйте в юридических терминах сформировать закон который бы запретил "автономные боевые системы", но при этом бы оставил за скобками ракеты РВВ-СД и АИМ-120.
>Критерий - принятие решения "по заранее определенному конкретному критерию" или "тонкий анализ".
А теперь сформулируйте "по заранее определенному конкретному критерию" или "тонкий анализ". Вы ведь в курсе что обработка сигналов есть процесс вероятностный? На вопрос "обнаружит ли ракета цель находящуюся в поле зрения ГСН" инженер ответит как блондинка: "Обнаружит. Или не обнаружит. С вероятностью не ниже заданной". Очень определенный конкретный критерий.

В общем, поздравляю, Вы запретили все ракеты с ГСН.
От eng. Alex
К DM (23.08.2017 23:32:53)
Дата 24.08.2017 01:31:57

Re: Ничего особо...

>Критерий - принятие решения "по заранее определенному конкретному критерию" или "тонкий анализ". Не приписывайте КР функции ИИ :)

Пустили КР в район цели, она сама определяет цель (распознает на местности по известному набору признаков, но с вероятностной моделью) и атакует ее, или самоуничтожается, если целей не найдено. Оператор не участвует. Подходит?

Еще пример - автоматическая система гаратнированного отетного удара МБР. Оператор не участвует, при принятии решения о пуске. Подходит?
От марат
К eng. Alex (24.08.2017 01:31:57)
Дата 24.08.2017 10:10:05

Re: Ничего особо...

Здравствуйте!
>>Критерий - принятие решения "по заранее определенному конкретному критерию" или "тонкий анализ". Не приписывайте КР функции ИИ :)
>
>Пустили КР в район цели, она сама определяет цель (распознает на местности по известному набору признаков, но с вероятностной моделью) и атакует ее, или самоуничтожается, если целей не найдено. Оператор не участвует. Подходит?
Основное - кто запустил. Неужели в пустое место запускали на авось?
>Еще пример - автоматическая система гарантированного ответного удара МБР. Оператор не участвует, при принятии решения о пуске. Подходит?
Не знаю как функционирует, поэтому правильного ответа нет.
С уважением, Марат
От eng. Alex
К марат (24.08.2017 10:10:05)
Дата 24.08.2017 11:19:25

Re: Ничего особо...

>>>Критерий - принятие решения "по заранее определенному конкретному критерию" или "тонкий анализ". Не приписывайте КР функции ИИ :)

>>Пустили КР в район цели, она сама определяет цель (распознает на местности по известному набору признаков, но с вероятностной моделью) и атакует ее, или самоуничтожается, если целей не найдено. Оператор не участвует. Подходит?

>Основное - кто запустил. Неужели в пустое место запускали на авось?

Например, запустили КР в район боевого дежурства ПГРК, а она попала в фуру или автобус с людьми, который проезжал по дороге в том же районе. Как классифицировать?
От марат
К eng. Alex (24.08.2017 11:19:25)
Дата 24.08.2017 19:30:11

Re: Ничего особо...

Здравствуйте!
>Например, запустили КР в район боевого дежурства ПГРК, а она попала в фуру или автобус с людьми, который проезжал по дороге в том же районе. Как классифицировать?
Наверняка БЧ провела анализ и решила подорвать автобус. )))
Боже ж мой, конечно это промах.
С уважением, Марат
От eng. Alex
К марат (24.08.2017 19:30:11)
Дата 25.08.2017 14:19:46

Re: Ничего особо...

>>Например, запустили КР в район боевого дежурства ПГРК, а она попала в фуру или автобус с людьми, который проезжал по дороге в том же районе. Как классифицировать?
>Наверняка БЧ провела анализ и решила подорвать автобус. )))
>Боже ж мой, конечно это промах.

Несомненно, но БЧ ведь робот, не правда ли?
От марат
К eng. Alex (25.08.2017 14:19:46)
Дата 25.08.2017 20:00:43

Re: Ничего особо...


>>Наверняка БЧ провела анализ и решила подорвать автобус. )))
>>Боже ж мой, конечно это промах.
>
>Несомненно, но БЧ ведь робот, не правда ли?
Будильник это робот? Точно такая же механическая болванка.
С уважением, Марат
От eng. Alex
К марат (25.08.2017 20:00:43)
Дата 26.08.2017 02:32:56

Re: Ничего особо...

>Будильник это робот? Точно такая же механическая болванка.

У будильника абсолютный детерминизм, а у ГЧ КР вероятностный, поэтому будильник не может перепутать.
От Лейтенант
К eng. Alex (26.08.2017 02:32:56)
Дата 30.08.2017 22:49:41

Будильник может сломаться

А у неисправного будильника с заранее неизвесно какой неисправностью абсолютного детерминизма нет.
От eng. Alex
К Лейтенант (30.08.2017 22:49:41)
Дата 02.09.2017 23:12:26

Re: Будильник может...

>А у неисправного будильника с заранее неизвесно какой неисправностью абсолютного детерминизма нет.

Сломаться может все, что угодно, даже человек, но это вообще делает бессмысленным какое-либо регулирование.
От Rwester
К DM (23.08.2017 23:32:53)
Дата 23.08.2017 23:46:34

тупиковый путь

Здравствуйте!

оценивать тему рефлексией оружия :) Ключевой фактор в отдаче человеком приказа на применение в принципе. Если ракета летит, то приказ уже отдан человеком. Или если мина установлена, то весь ее внутренний мир пофиг.

И да в судьбе взрывателя вековой давности тоже человек поучаствовал :)

Рвестер, с уважением
От DM
К Rwester (23.08.2017 23:46:34)
Дата 23.08.2017 23:55:53

Re: тупиковый путь

>Здравствуйте!

>оценивать тему рефлексией оружия :) Ключевой фактор в отдаче человеком приказа на применение в принципе. Если ракета летит, то приказ уже отдан человеком. Или если мина установлена, то весь ее внутренний мир пофиг.

Так речь идет о том, на основании чего принимается решение и как.
Представте. В темном переулке вас из-за угла встречают "двое". И вы видите массу вариантов. "Друзья решили пошутить", "Какая-то алкашня", "Понты - сами боятся" и многое еще до "Ща будут бить". Крылатая ракета на такой тонкий анализ не способна. У нее есть четкие критерии и ей по фиг "друзья это разыгрывают" или реально опасность. Это не робот, это - автоматизация отдельных функций.
От Rwester
К DM (23.08.2017 23:55:53)
Дата 24.08.2017 00:03:24

Re: тупиковый путь

Здравствуйте!

>Так речь идет о том, на основании чего принимается решение и как.
>Представте. В темном переулке вас из-за угла встречают "двое". И вы видите массу вариантов. "Друзья решили пошутить", "Какая-то алкашня", "Понты - сами боятся" и многое еще до "Ща будут бить". Крылатая ракета на такой тонкий анализ не способна. У нее есть четкие критерии и ей по фиг "друзья это разыгрывают" или реально опасность. Это не робот, это - автоматизация отдельных функций.

это вообще неважно. Вот лифт например работает без участия человека. Вот также точно будут работать боевые роботы. Т.е. вообще точно также. Чтобы заченить разницу - поставьте в лифт лифтера.

Рвестер, с уважением
От Alexeich
К Rwester (24.08.2017 00:03:24)
Дата 24.08.2017 09:53:33

Re: тупиковый путь

>это вообще неважно. Вот лифт например работает без участия человека. Вот также точно будут работать боевые роботы.

Так они работают сейчас. Речь о другом, о ИИ следующего поколения, способных к целеполаганию на основе общих плохо определенных критериев.

> Т.е. вообще точно также. Чтобы заченить разницу - поставьте в лифт лифтера.

Речь как раз о том, чтобы робот не заменил лифтера. Причем робот, который сам решает, куда Вам ехать, ехать ли вообще, и повлиять на это его решение вы можете не всегда, а иноггда результаты вашей попытки повлиять на него вообще непредсказуемы. Скажем, Вы его просите ехать на 8 этаж, а он отвозит вас в подвал и дает по голове. Причем никаких юридических моментов, предусматривающих вашу защиту от таких эксцессов, хотя бы компенсации за проломленную голову, вообще говоря, не существует. Я уж не говорю о том. точ этот лифт может приезать к вам прямо домой совершенно без вызова :)
От Rwester
К Alexeich (24.08.2017 09:53:33)
Дата 24.08.2017 12:56:07

Re: тупиковый путь

Здравствуйте!

>Так они работают сейчас.
Я таких систем не знаю. Может только легендарный "Периметр".

>Речь о другом, о ИИ следующего поколения, способных к целеполаганию на основе общих плохо определенных критериев.
Это частности - хорошие критерии или плохие. Важен сам подход - введение в оборот систем без человеческого фактора. Гражданский сектор - кстати - к этому вполне готов: 5G вводят, прототипы обкатывают (роботы-автомобили), общество потребления жаждет, производители заранее потирают ручки.


>Речь как раз о том, чтобы робот не заменил лифтера. Причем робот, который сам решает, куда Вам ехать, ехать ли вообще, и повлиять на это его решение вы можете не всегда, а иноггда результаты вашей попытки повлиять на него вообще непредсказуемы. Скажем, Вы его просите ехать на 8 этаж, а он отвозит вас в подвал и дает по голове. Причем никаких юридических моментов, предусматривающих вашу защиту от таких эксцессов, хотя бы компенсации за проломленную голову, вообще говоря, не существует. Я уж не говорю о том. точ этот лифт может приезать к вам прямо домой совершенно без вызова :)

Вы все-таки человек науки. Что за неолуддизм пещерный? :) Он не ИИ, а просто робот "вертикального транспортного сообщения города" и десятки миллионов людей с ним взаимодействует по нескольку раз в день и их это не напрягает от слова совсем. Почему использование этого же принципа в военном деле приведет к чему-то другому?

Рвестер, с уважением
От Alexeich
К Rwester (24.08.2017 12:56:07)
Дата 24.08.2017 13:47:38

Re: тупиковый путь

>Вы все-таки человек науки. Что за неолуддизм пещерный? :) Он не ИИ, а просто робот "вертикального транспортного сообщения города" и десятки миллионов людей с ним взаимодействует по нескольку раз в день и их это не напрягает от слова совсем.

Мы говорим не о современной версии "лифтового автомата", а о гораздо более продвинутой версии ИИ. Ну не мы. Маск и товарищи в ООН.

> Почему использование этого же принципа в военном деле приведет к чему-то другому?

потому что военное дело направлен на истребление себе подобных. Косяки целеполагания в таком процессе чреваты не выходом не на том этаже. а гораздо более фатальными в прямом смысле последствиями.
От Rwester
К Alexeich (24.08.2017 13:47:38)
Дата 24.08.2017 17:20:43

Re: тупиковый путь

Здравствуйте!

>Мы говорим не о современной версии "лифтового автомата", а о гораздо более продвинутой версии ИИ. Ну не мы. Маск и товарищи в ООН.
Не вижу разницы между могучим ИИ и простенькой программкой для пулеметной турели. Принцип тот же. А говорить они могут разное, важно к чему они призывают - расширить КНО.

>потому что военное дело направлен на истребление себе подобных. Косяки целеполагания в таком процессе чреваты не выходом не на том этаже. а гораздо более фатальными в прямом смысле последствиями.
Последние пару-тройку тысячелетий это никому не мешало. А время от обнаружения цели до ее поражения резко сократится, что конечно профит.

Рвестер, с уважением
От DM
К Rwester (24.08.2017 00:03:24)
Дата 24.08.2017 00:05:09

Re: тупиковый путь

>это вообще неважно. Вот лифт например работает без участия человека. Вот также точно будут работать боевые роботы. Т.е. вообще точно также. Чтобы заченить разницу - поставьте в лифт лифтера.

Вот когда лифт БЕЗ лифтера будет работать точно так же, как лифт с лифтером - это будет лифт-робот :) А до того - просто лифт (как сейчас) :)
От Rwester
К DM (24.08.2017 00:05:09)
Дата 24.08.2017 00:10:51

лифтер это не техник по лифтам

Здравствуйте!

а представительный чел, который дергает за рычаг и по просьбе пассажиров возит их по этажам. Сейчас конечно таких нет, устаревшая профессия. И ничего, обходимся.

Рвестер, с уважением
От DM
К Rwester (24.08.2017 00:10:51)
Дата 24.08.2017 00:16:51

Re: лифтер это...

>Здравствуйте!

>а представительный чел, который дергает за рычаг и по просьбе пассажиров возит их по этажам. Сейчас конечно таких нет, устаревшая профессия. И ничего, обходимся.
В Харьков приезжайте :) В здании Госпрома лифты управляются лифтерами. До сих пор. Потому когда я говорю про разницу - я говорю по своему опыту. Кнопка лифта не может учитывать разложенный зонт зашедшего, например. А лифтер - учитывает.

>Рвестер, с уважением
От Rwester
К DM (24.08.2017 00:16:51)
Дата 24.08.2017 00:51:21

даст бог, буду когда-нибудь, так оказией с лифтером сфоткаюсь :)

Здравствуйте!

лифт-"как сейчас" есть в каждом доме и очень хорошо вписался в нашу жизнь. Думаю, военное применение темы и вообще применение этих принципов в армейском строительстве тоже хорошо впишется в практику. Благо плюсы очевидны.

Рвестер, с уважением
От Rwester
К DM (24.08.2017 00:05:09)
Дата 24.08.2017 00:06:20

вот лифт "сейчас" и есть типичный робот(-)

Здравствуйте!

Ящик пандоры(с)

Рвестер, с уважением
От DM
К Rwester (24.08.2017 00:06:20)
Дата 24.08.2017 00:14:32

У нас с Вами разное понимание термина "робот" :)

>Ящик пандоры(с)
Если остановиться на понятии "робот" конца прошлого века (роботы на автоконвеерах, станки с чпу и пр), то Маск на десятилетия отстал со своим письмом. Ибо даже дистанционный взрыватель - простейший робот (о чем было упомянуто в другой подветке). Но в современных понятиях робот - некий механизм, способный к самостоятельному анализу. Т.е. его создатель (человек\програмист) не может быть на 100% уверен. что его детище проанализирует и воспримет действительность так же, как и он сам. И в этом коренное отличие от крылатой ракеты (например).
От Rwester
К DM (24.08.2017 00:14:32)
Дата 24.08.2017 00:27:26

да и ладно, главное Маск все понимает правильно

Здравствуйте!

в том смысле, что штука эта перспективная, реализуемая технически и наше светлое (недалекое) будущее. И попугать всех потенциальных конкурентов в ООН будет нелишним. Это как статья о ГМО и его вредности. Мы же не знаем пока, какая будет определяющая технология ("которая не для всех") следующего столетия. Может как раз рывок в роботизации. В прошлом века это была ядерная физика, так может роботизация и есть тот неисчерпаемый источник который даст огого-рывок во всем.

Рвестер, с уважением
От Ibuki
К Rwester (24.08.2017 00:27:26)
Дата 24.08.2017 00:55:04

Ядерную физику тоже запретить

>Здравствуйте!
>В прошлом века это была ядерная физика
Ядерную физику ООН тоже запретила месяц назад
http://www.un.org/apps/news/story.asp?NewsID=57139
От Rwester
К Ibuki (24.08.2017 00:55:04)
Дата 24.08.2017 07:32:52

да-да-да. оно самое(-)
От eng. Alex
К Ibuki (23.08.2017 22:34:24)
Дата 23.08.2017 22:46:48

Плюс любые крылатые ракеты (-)