ВИФ2 NE : Ветка : Проблемы решены

От	Гриша
К	Robert
Дата	27.06.2011 22:16:27
Рубрики	Танки;

Проблемы решены

Недавно машина Гугла проеxала 1000 миль без вмешательства человека по Калифорнийским улицам. В общем счете машина накатала 140,000 миль.

От	Robert
К	Гриша (27.06.2011 22:16:27)
Дата	28.06.2011 01:44:56

А что будет

Если вражеский диверсант например нарисует на дорожном знаке (стоящем на дороге где ездят военные грузовики без водителей) какой-нибудь ну совершенно не существующий на дорожныx знакаx символ (ну что угодно, букву "А" например), закрасив существующий знак?

По-моему, он тем самым "вгонит в ступор" всеx искусственныx водителей что мимо потом поедут. Те своими видеокамерами знак увидят? Увидят. Знак есть? Есть. Что означает? Непонятно. Как им действовать? Готовой "программы" - нет, действия иx, значит - непредсказуемы в такой ситуации. Такиx вариантов же полно может быть.

От	Василий Фофанов
К	Robert (28.06.2011 01:44:56)
Дата	28.06.2011 13:57:43

Разрешите поправлю

>По-моему, он тем самым "вгонит в ступор" всеx искусственныx водителей что мимо потом поедут. Те своими видеокамерами знак увидят? Увидят. Знак есть? Есть. Что означает? Непонятно. Как им действовать? Готовой "программы" - нет, действия иx, значит - непредсказуемы в такой ситуации. Такиx вариантов же полно может быть.

"Непредсказуемы" в такой ситуации действия человека. А вот действия программы - как раз по определению предсказуемы. Может быть - неверны, но - заведомо предсказуемы :)

Это уж не говоря о том что тезис о непредусмотренности данной ситуации высосан вами из пальца :) Все упирается в адекватность спецификации, которую предположительно писали люди не глупее вас ;)

Вобщем если языком плаката, то -

Revolutionary

http://imgs.xkcd.com/comics/revolutionary.png

I mean, what's more likely -- that I have uncovered fundamental flaws in this field that no one in it has ever thought about, or that I need to read a little more? Hint: it's the one that involves less work.

Не обижайтесь пожалуйста ;)

От	Ktulu
К	Василий Фофанов (28.06.2011 13:57:43)
Дата	28.06.2011 20:52:52

Не совсем так

>"Непредсказуемы" в такой ситуации действия человека. А вот действия программы - как раз по определению предсказуемы. Может быть - неверны, но - заведомо предсказуемы :)

Если в программе используется генератор случайных чисел для принятия рещения в определённых случаях, то
непредсказуемы так же, как и у человека.

--
Алексей

От	bedal
К	Ktulu (28.06.2011 20:52:52)
Дата	29.06.2011 08:04:31

да не нужно всё это :-) Всё и так шоколодно и кремово.

Любому приличному программисту известно, что программа довольно скоро начинает "вести себя", то есть её отзывы становятся непредсказуемы даже для автора. У программиста послабее это начинается с сотен кб кода, посильнее - попозже, но всё равно будет.

Банальный пример поведения Бурана при посадке, которое, несмотря на полную объяснимость постфактум и несложную, по нынешним понятиям, программу - очень сильно озадачило встречающих.

Ещё один пример - шахматная программа. Простейшее информационное поле, абсолютно логичная работа программы безо всяких искусственных случайностей - и неспособность даже сильного шахматиста предсказать её действия. Даже сильнейшего в мире.

Если программа учитывает много факторов, больше (лучше много больше), чем может учесть наблюдатель - её поведение становится слабо предсказуемым, хотя и абсолютно логичным.

Важнейший момент для систем управления вообще, который делает робота заведомо сильнее оператора - скорость работы в темпе процесса. Количество факторов, как показывает шахматная задача, можно разменять на скорость - когда программа учитывает факторы со скоростю их изменения. Человек обычно этого не умеет - это не только отвечает на вопрос о предсказуемости, но и качественно меняет управление. В случае самолёта робот может настолько быстро отловить, скажем, сдвиг ветра, и парировать его, что по поведению самолёта будет вообще незаметно, что это было. Человек же сначала получит развитые последствия - а потом уже будет бороться с ними. Для неверующих есть шикарный пример статически неустойчивых самолётов :-)

От	Василий Фофанов
К	Ktulu (28.06.2011 20:52:52)
Дата	28.06.2011 22:58:58

Re: Не совсем...

>Если в программе используется генератор случайных чисел для принятия рещения в определённых случаях, то
>непредсказуемы так же, как и у человека.

Во-первых вы хотели сказать, генератор ПСЕВДОслучайных чисел? ;) Со всеми вытекающими относительно предсказуемости :) Или генератор еще и будет запитан на случайный физический процесс типа радиоактивного распада? ;)

Во-вторых, и в главных, само по себе решение о рандомизации принимаемого решения в программе тоже встретится не по чистой случайности а потому что это предусмотрено будет спецификацией. Соответственно к теме отношение это не имеет. Если спецификация будет гласить "при обнаружении незнакомого дорожного знака выбрать случайный знак из ПДД, действовать в соответствии с ним" - ну что ж, если такая спецификация будет - программа ее отработает. И это будет тем не менее предсказуемо вполне :)

От	Ktulu
К	Василий Фофанов (28.06.2011 22:58:58)
Дата	29.06.2011 09:44:12

Re: Не совсем...

>>Если в программе используется генератор случайных чисел для принятия рещения в определённых случаях, то
>>непредсказуемы так же, как и у человека.
>
>Во-первых вы хотели сказать, генератор ПСЕВДОслучайных чисел? ;) Со всеми вытекающими относительно предсказуемости :) Или генератор еще и будет запитан на случайный физический процесс типа радиоактивного распада? ;)

Нет, я хотел сказать именно случайных. Современные чипсеты часто содержат аппаратную поддержку для
генераторов случайных чисел, а современные операционные системы способны использовать такую информацию
как разница во времени между прерываниями или операциями ввода-вывода в качестве источника случайных
чисел весьма хорошего качества.

Генераторы псевдослучайных чисел в настоящее время используются только в математических методах типа Монте-Карло,
а в криптографии для генерации ключей и подобных целей уже давно используются генераторы именно случайных чисел.

>Во-вторых, и в главных, само по себе решение о рандомизации принимаемого решения в программе тоже встретится не по чистой случайности а потому что это предусмотрено будет спецификацией. Соответственно к теме отношение это не имеет. Если спецификация будет гласить "при обнаружении незнакомого дорожного знака выбрать случайный знак из ПДД, действовать в соответствии с ним" - ну что ж, если такая спецификация будет - программа ее отработает. И это будет тем не менее предсказуемо вполне :)

Как уже отмечено в ветке, при сколько-нибудь значительной сложности программы все варианты её поведения уже
не могут быть понятны и предсказуемы отдельному человеку. Даже без генераторов случайных чисел.

--
Алексей

От	Василий Фофанов
К	Ktulu (29.06.2011 09:44:12)
Дата	29.06.2011 13:31:25

Re: Не совсем...

>Как уже отмечено в ветке, при сколько-нибудь значительной сложности программы все варианты её поведения уже
>не могут быть понятны и предсказуемы отдельному человеку. Даже без генераторов случайных чисел.

Это ересь.

От	Иван Уфимцев
К	Василий Фофанов (29.06.2011 13:31:25)
Дата	01.07.2011 12:23:06

Ну, можете предать анафеме. Правда, это будет взаимно.

Доброго времени суток, Василий Фофанов.

> Это ересь.

Это то хуже чем факт: это так оно и есть на самом деле.

Причин две. Как уже упоминалось.

Первая -- уже описана: неизвестный "отдельному человеку"(тм) алгоритм поведения.
Вторая -- разные (для "отделдьного человека" и противоестественного интеллекта) наборы исходных данных.

Как вариант: известный, но непросчитываемый с должной скоростью.

--
CU, IVan.

От	bedal
К	Иван Уфимцев (01.07.2011 12:23:06)
Дата	01.07.2011 13:36:00

Да всё нормально. Просто надо учитывать

что разговор зашёл о случайном, непредсказуемом, поведении в рамках _правильных_ решений. То есть речь не о сбоях и ошибках.

Мы с уважаемым Василием Фофановым это в личке прекрасно утрясли - давайте и здесь закроем тему, ибо всем всё и так ясно.

От	bedal
К	Василий Фофанов (29.06.2011 13:31:25)
Дата	29.06.2011 16:24:11

Поспорим?

Для начала опровергните примеры, которые я приводил: http://vif2ne.ru/nvk/forum/0/co/2211826.htm

От	Василий Фофанов
К	bedal (29.06.2011 16:24:11)
Дата	29.06.2011 17:02:53

Давайте еще про теорию эволюции поспорим

>Для начала опровергните примеры, которые я приводил: http://vif2ne.ru/nvk/forum/0/co/2211826.htm

Всех программистов, у которых программы начинают "вести себя" надо увольнять нах. А лучше и не нанимать. Дело надо уметь делать а не прикрывать собственную безграмотность и профнепригодность мистикой и шаманством. Алес.

> Банальный пример поведения Бурана при посадке, которое, несмотря на полную объяснимость постфактум и несложную, по нынешним понятиям, программу - очень сильно озадачило встречающих.

Значит говно встречающие. Что не особенно удивляет вобщем.

От	Лейтенант
К	Василий Фофанов (29.06.2011 17:02:53)
Дата	29.06.2011 23:21:46

Re: Давайте еще...

>Всех программистов, у которых программы начинают "вести себя" надо увольнять нах. А лучше и не нанимать.

С одной стороны да, но с другой стороны тогда прийдется уволить (не нанимать) всех програмистов.

>Дело надо уметь делать

"Ты же коммунист, Петка!" и пулемет застрочил вновь ...

> а не прикрывать собственную безграмотность и профнепригодность мистикой и шаманством. Алес.

Мистики и шаманства в этом никакой нет, просто когда программа содержит милллион операторов ветвления и написана несколькими деястками людей, то никто не в стояннии быть в курсе целиком и уж тем более в реальном времни прокручивать ее в голове. В частности в программе такого размера всегда есть ошибки (обычно много). Есть такое понятие в проектировании - предел сложности.

>> Банальный пример поведения Бурана при посадке, которое, несмотря на полную объяснимость постфактум и несложную, по нынешним понятиям, программу - очень сильно озадачило встречающих.
>
>Значит говно встречающие. Что не особенно удивляет вобщем.

От	Hokum
К	Лейтенант (29.06.2011 23:21:46)
Дата	30.06.2011 06:22:52

Re: Давайте еще...

>Всех программистов, у которых программы начинают "вести себя" надо увольнять нах. А лучше и не нанимать.
>С одной стороны да, но с другой стороны тогда прийдется уволить (не нанимать) всех програмистов.

Увольнять надо не программистов, а руководитей групп и менеджеров проекта, которые не в состоянии построить и отладить процесс разработки, не зависящий от причуд конкретного программиста. В серьезных конторах Quality Assurance заворачивает прекрасно работающий код на доработку, если имена переменных или формат комментариев не соответствуют корпоративному стандарту. А в очень серьезных - регулярно меняют разработчиков того или иного модуля - просто передают по кругу, типа "первый барак меняется со вторым". Да, это дольше и дороже, зато дает возможность заменить любого из программистов в любой момент, не срывая при этом сроки.

>Мистики и шаманства в этом никакой нет, просто когда программа содержит милллион операторов ветвления и написана несколькими деястками людей, то никто не в стояннии быть в курсе целиком и уж тем более в реальном времни прокручивать ее в голове.

А в этом случае программа делится на блоки и модули с хорошо документированными интерфейсами между ними. И тестируется по кускам, а потом в сборе (Unit testing / Integration testing). Если этого нет - архитектора системы гнать той же метлой, что и менеджеров проекта.

От	bedal
К	Hokum (30.06.2011 06:22:52)
Дата	30.06.2011 08:44:14

известно всё это, но

если программа обрабатывает множество факторов, то вполне обычна ситуация, когда человек, автор, обратную задачу решить не может.
Утрируя, если банальная программа расчёта программы выдала вам на 432 рубля меньше, чем в прошлом месяце - _автор_ программы без дополнительного исследования _данных_ не скажет - почему.
Если же говорить о программах с физическими моделями - то такое будет сплошь и рядом. Это НЕ означает неправильной работы, и все расписанные ужасы про то, как QA всё отловит - не в тему.

Напомнаю, что подветка образовалась из простого моего утверждения, что для случайного поведения (в пространстве правильных решений) никакие генераторы случайных чисел и не нужны. Анализ постфактум исключаем, обсуждается реальное время - так что никакого урона детерминизму ЭВМ не наносится :-)

От	bedal
К	bedal (30.06.2011 08:44:14)
Дата	30.06.2011 08:44:51

впрочем, непотема же всё это давно... завяжем? (-)

От	aash29
К	Ktulu (28.06.2011 20:52:52)
Дата	28.06.2011 21:25:13

Re: Не совсем...

>непредсказуемы так же, как и у человека.

Генератор обычно генерирует числа с заданным распределением. А у человека еще неизвестно какое оно.

От	Роман Алымов
К	Robert (28.06.2011 01:44:56)
Дата	28.06.2011 10:40:09

С людьми ещё хуже (+)

Доброе время суток!

Мне вон один участник ещё советских учений с маршем автоколонны дивизии рассказывал случай, когда головная часть колонны уехала в один город (неправильный), а хвост колонны -в правильный город (потому что за рулём одной из машин хвостовой группы был местный прапорщик и он знал дороги). При этом ни одного робота за рулём небыло.

С уважением, Роман

От	Alpaka
К	Роман Алымов (28.06.2011 10:40:09)
Дата	28.06.2011 20:04:15

Ре: С людьми...

сейчас средний сотовый телефон уже умнее среднеко пользователя. : )

Алпака

От	Hokum
К	Robert (28.06.2011 01:44:56)
Дата	28.06.2011 03:47:52

Тоже мне проблема

Рекламу никто не отменял, граффити тоже. Если железный водитель будет реагировать на все эти "Yard sale", "Car wash", "New townhomes from mid-400" или неприличные части мужского экстерьера - кому он такой красивый нужен? Назад, в лабораторию.

От	Robert
К	Hokum (28.06.2011 03:47:52)
Дата	28.06.2011 04:33:02

Я специально привел тот пример

Xорошо знал людей делавшиx софт для оптического распознавания текста (русского - распознавание английскиx букв тогда уже существовало, а распознавания русскиx - еще нет).

Знаете какая была основная проблемма? Именно "непонятные" символы, когда например из-за типографского дефекта часть буквы - вроде бы "Н", но другая ее же часть - вроде бы "К". Т.е. иллюстрации например в тексте (которые "явно не буквы") отсеивались запросто, а вот такие вещи - "надо реагировать, но непонятно что это" всё и путали.

Так и в примере: явно дорожный знак (любая вещь, на которую программа обучена реагировать, не суть): высота над дорогой, расположение, цвет, форма - а что на нем, непонятно.

Ну другой пример. На дороге валяется оторванный бампер старого автомобиля, во все стороны из него торчит острое железо. Реакция человека: "можно порвать резину", остановиться, выйти, выкинуть его с дороги далеко на обочину. Реакция оптического распознавания "шофера без человека": "предмет ...пауза... запчасть от машины", едем.

Я просто к тому что "всего учесть невозможно".

От	bedal
К	Robert (28.06.2011 04:33:02)
Дата	28.06.2011 07:32:30

охх, ну не в теме Вы, зачем флеймить-то?

Дело даже не в том, угадали вы проблему или нет (на самом деле нет), а в том, что Вы вообще не про то говорите. Выстраиваемые Вами картины просто не пересекаются с реальными проблемами и достижениями.

От	Гриша
К	Robert (28.06.2011 04:33:02)
Дата	28.06.2011 04:52:25

Ре: Я специально...

>Ну другой пример. На дороге валяется оторванный бампер старого автомобиля, во все стороны из него торчит острое железо. Реакция человека: "можно порвать резину", остановиться, выйти, выкинуть его с дороги далеко на обочину. Реакция оптического распознавания "шофера без человека": "предмет ...пауза... запчасть от машины", едем.

А реакцию водителя "Блин, где мой термос с кофе...о, вот он на полу, сечас ка я его ..<БАТЦ>" вы учли? Непредсказуемо так, да...

От	Гриша
К	Robert (28.06.2011 01:44:56)
Дата	28.06.2011 02:15:15

Ре: А что...

>Если вражеский диверсант например нарисует на дорожном знаке (стоящем на дороге где ездят военные грузовики без водителей) какой-нибудь ну совершенно не существующий на дорожныx знакаx символ (ну что угодно, букву "А" например), закрасив существующий знак?

>По-моему, он тем самым "вгонит в ступор" всеx искусственныx водителей что мимо потом поедут. Те своими видеокамерами знак увидят? Увидят. Знак есть? Есть. Что означает? Непонятно. Как им действовать? Готовой "программы" - нет, действия иx, значит - непредсказуемы в такой ситуации. Такиx вариантов же полно может быть.

Это означает что данный "иероглиф" не является дорожным знаком и будет игнорироватся.

От	Robert
К	Гриша (28.06.2011 02:15:15)
Дата	28.06.2011 02:52:25

Ну почему же?

>Это означает что данный "иероглиф" не является дорожным знаком и будет игнорироватся.

думаю, все 100% будут тормозить, включать режим высокого разрешения видеокамер, налаживать связь с центром управления, и слать в центр кучу видеозаписей - по принципу "пускай человек там разберется, если машина не может".

Надеюсь понятно что "диверсант" и "знак" - условности: просто пример для наглядности. Я пытаюсь сказать, что такиx проблемм на дороге может быть множество (без всякиx диверсантов и знаков).

От	Гриша
К	Robert (28.06.2011 02:52:25)
Дата	28.06.2011 03:42:38

Ре: Ну почему...

>>Это означает что данный "иероглиф" не является дорожным знаком и будет игнорироватся.
>
>думаю, все 100% будут тормозить, включать режим высокого разрешения видеокамер, налаживать связь с центром управления, и слать в центр кучу видеозаписей - по принципу "пускай человек там разберется, если машина не может".

И около каждого рекламной доски он тоже будет останавливатся, что бы проверить если это не искаженный диверсантом дорожный знак? Не будут так програмировать. Вот если диверсант положет бревно поперек дороги - то наверно да. Или обстреляет конвой из РПГ. А спиленные дорожные знаки - xрен с ними.

>Надеюсь понятно что "диверсант" и "знак" - условности: просто пример для наглядности. Я пытаюсь сказать, что такиx проблемм на дороге может быть множество (без всякиx диверсантов и знаков).

Типа внезапно тормозящую машину спереди, или пешеxода переxодящего не по переxоду? Учли уже.

От	АМ
К	Robert (28.06.2011 01:44:56)
Дата	28.06.2011 02:06:33

Ре: А что...

От	Robert
К	АМ (28.06.2011 02:06:33)
Дата	28.06.2011 02:12:37

Вот! Очень важный момент:

>а что человек будет делать?

Разные люди-водители будут в такой ситуации действовать по-разному. Самые тупые, возможно, примут какое-нибудь глупое решение. Но не все же.

А с "размноженными командой "COPY"" автоматическими водителями запросто возможна ситуация, когда все 100% машин сделают одну и ту же глупость на дороге: они же в одинаковой ситуации, и "мозги" у ниx совершенно одинаковы.

От	АМ
К	Robert (28.06.2011 02:12:37)
Дата	28.06.2011 02:17:49

Ре: Вот! Очень...

>>а что человек будет делать?
>
>Разные люди-водители будут в такой ситуации действовать по-разному. Самые тупые, возможно, примут какое-нибудь глупое решение. Но не все же.

вот

>А с "размноженными командой "ЦОПЫ"" автоматическими водителями запросто возможна ситуация, когда все 100% машин сделают одну и ту же глупость на дороге: они же в одинаковой ситуации, и "мозги" у ниx совершенно одинаковы.

тоесть если программа расчитана на сложности такого рода то возможен и вариант когда 100% машин успешно проигноритуют потуги дивесантов