Я говорил о ИИ. Вы же смешивайте полноценный ИИ и ботов.
>>Тем более, что неявно предполагается способность ИИ к самосовершенствованию.
Самосовершенствование человеческого интеллекта тоже под вопросом. В рамках эволюции вида (т.е. перехода от одного вида в другой) уже не очень. Но это уже другой вид будет :))
>Да ради бога - собаки тоже способны к самосовершенствованию, но человека пока не обогнали.
Нет, также как и любой человеческий индивид, собака может просто более или менее полноценно реализовать потенциал, который в ней уже изначально заложен.
Я же говорил о сосуществовании полноценного ИИ и человека.
В конце концов между годовалым ребенком гомосапиенса и взрослым шимпанзе разницы мало. Однако уже очень быстро ребенок переходит на уровень который шимпанзе в рамках своего вида никогда не достигнет. Потому что у него этот потенциал заложен. Конечно, если ребенка отдать на попечение шимпанзе и он каким-то чудом выживет, то он будет и действовать как шимпанзе :) И у человека бывают олигофрены, а у шимпанзе более одаренные особи. Но пока одаренные шимпанзе не рулят над человеческими идиотами.
>С чего вдруг способности ИИ будут выше, если задаёт их человек изначально?
В том-то и дело, что если все задает изначально, то это будет бот, а не ИИ. В лучшем случае получится бот, который виртуозно мимикрирует под ИИ. Однако есть мнение, что ИИ никогда не получится создать путем тупого программирования, и поначалу надо понять как у нас самих мозг работает - без этого будет в лучшем случае манипулятор символов, который может даже пройти простой вариант теста Тюринга, но вечно останется в китайской комнате :) Такой вариант вполне может сосуществовать относительно мирно, если ему не дать широкие полномочия - в обратном случае получается заключательная глава I Robot :), где человечество само не замечает кто им управляет по вполне альтруистическим принципам :)
А если будет полноценный ИИ, не основанный на биологическом старении процессов (не подверженный смерти от времени) то это будет уже другой вид жизни. И будет очень трудно обьяснить этому виду что он должен дать себя спокойно отключить какому-то смертному в случае странного поведения.
Ну и конечно главный вопрос: что собирается человечество делать с таким ИИ и как собирается его использовать. Если сделает не-автономным (скажем по энергопитанию) в отношении человека, то вполне можно относительно мирно сосуществовать в рамках симбиоза разных видов. Если полностью автономным - пиши пропало. А мне кажется что рано или поздно придет соблазн из симбиоза перейти на уровень смешения и того самого human enhancement, хотя бы потому что соблазн жить или хотя бы мыслить вечно у человека всегда будет.
И тогда homo sapiens спокойно вымрет как вид, и будет гибрид в прошлом искуственного ИИ и гомосапиенса. Это в лучшем варианте.
