Рождение легенды

>Повторю ещё раз, программа НИЧЕГО не выполняет за спиной своего разработчика — это нонсенс
Хорошая шутка. Нет, я, как разработчик по специальности, с уверенностью могу сказать, что программа сложнее Helloworld'а, которая НИЧЕГО не выполняет за спиной своего разработчика — вот это нонсенс. Программа обычно, наоборот, делает что угодно, но не то, чего от неё хочет разработчик. Готовая программа — это когда достигнут баланс между "Ну вроде ничего не падает" и "Да ну нафиг, надоело".

>Но, в отличие от кода, мы можем делать выбор. Это единственная вещь, которую нельзя оценить с точки зрения одобрения, так как выбор каждого — его личное дело и мы не имеем права этот выбор осуждать.
На самом деле существует такая штука, как теория принятия решений. И осуждать более чем можно: если в постулаты указанной теории (а также вообще логики и рациональности) выбор не укладывается и грубо её нарушает, то это паршивый выбор.
Но мне даже интересно, какой такой выбор может сделать человек, который не сможет в принципе сделать программа.

>Этот ответ наиболее часто используется человечеством
Ещё одна отличная шутка.
Нет, ответ "Заткнись, не твоего ума дело" во всевозможных перефразировках используется намного чаще и намного с более давних пор. И, разумеется, каждый раз оказывается неверным.
Распознать ответ из класса "Заткнись, не твоего ума дело" невероятно легко — он никогда ничего не объясняет, но в то же время создаёт иллюзию, будто ответ дан. Пример из истории — витализм. Или флогистон. Или отношение к квантовым уравнениям по принипу "Shut up and calculate!" — очень недавний пример, к слову. И каждый раз, конечно же, очень многие заявляли, что вот уже ВСЁ, капут, наука закончилась, и ответ уж на ЭТОТ-ТО вопрос мы никогда не получим!..
Проходило несколько лет (иногда сотни, конечно) и ответ появлялся. Хотя я не удивлюсь, если и сегодня кто-то верит в флогистон. Ну как, охота быть очередным флогистонианцем/виталистом и пафосно заявлять "Этого никогда не случится!"? А если охота пример попроще, можно посмотреть на всё те же компьютеры. И прикинуть, как много людей согласились бы, что такое возможно, веке в эдак 18-ом.

"Пока ещё не знаем" — совсем другой тип ответа. Он честный и прямой. Да, не знаем. Нет, не будем делать вид, будто мы все такие самые умные и давать загадочные ответы на загадочные вопросы. Ну и картинка на тему.

>В естестве человеческом. Умении мыслить, любить, созерцать, творить, сопереживать, понимать, прощать. Машина никогда не приблизится к этому, ни через 20 лет...
Опять флогистон?
Умение мыслить — будет обязательно, без полноценного ИскИна человечеству будет тяжко. Опять же, если считать мышлением принятие решений, то это уже есть. Умение творить уже есть — зависит, правда, от того, какое определение использовать.
Созерцать — это, кхм, попрошу пояснить. Процессинг визуальной информации уже давно как не новость, потому, наверное, имеется в виду что-то ещё. Понимать — аналогично.
Любить, сопереживать, прощать — а, прошу прощения, зачем весь этот хлам ИскИну? Нет, конечно, если кому-то захочется домой вежливого робота развеивать одиночество — можно прикрутить. Но в рамках общей картины это всё равно как самолёт, машущий крыльями. Самолёт не машет крыльями, потому что может выполнить свою задачу куда более простым и эффективным способом. ИскИн не будет испытывать эмоции, не будет сопереживать и не будет прощать (хотя бы потому что обижаться тоже не будет) — ему это не нужно. И людям не нужно, чтобы ИскИн это делал (а то будет Скайнет, ага). Думать, анализировать, принимать решения — вот это другое дело.

>Программы научились сами себя писать?
Yup. Уже десятки лет как. Такие программы называются трансляторами.

>Разрабатывать компьютеры под себя и размножаться?
Значительную часть разработки (оптимизация) и размножения (техпроцессы) выполняют именно программы и роботы. Оставшаяся часть упирается, опять же, во время — как только будет найден принцип постройки General AI, можно будет вообще всё перевести на цифровое самообеспечение. Только бы денег на это хватило.

>Понимать собственный код и редактировать его с некой целью?
Yup. Common Lisp существует с 50-х годов прошлого века. Основная его фича — именно то, что исполняемый код и данные взаимопроникающи, потому программа может править сама себя. Собственно, для изучения искусственного интеллекта лисп и был придуман, среди прочего.

>До победного немногие дотянут, а тех кто падёт, будет "как песка в море". Так что удивляться нечему. Цифры редко лгут.
Ahem... Кажется, вы не понимаете. Давайте более простой пример.

Берём две тысячи человек. Ставим перед стеной загадочного пара. Позволяем провести несколько опытов. Наши две тысячи человек приходят (по некоторым непрямым данным) к выводу, что в 999 случаях из 1000 пар разлагает органику. Иными словами, "Если пройдёшь через пар — останешься живым и невредимым" == FALSE с вероятностью 0.999 и TRUE с вероятностью 0.001.
Одна тысяча этих людей кивают головами, соглашаются с результатом и разумно заключают, что в пар они не пойдут. Все тысяча остаются живы.
Другая тысяча этих людей возмущаются, заявляют, что они расчётам не верят, и идут в пар. 999 из них умирают, один остаётся жив.

Таки в какой группе вы предпочтёте быть?

>В некий момент 'эволюции' все эти фундаментальные частицы друг с другом не взаимодействовали
Чего?.. As far as современная наука способна дать ответ, фундаментальные частицы ВСЕГДА друг с другом взаимодействовали. Это неотъемлемое их свойство. Как свойство лего — то, что они из пластика.

Ну, если так брать, то и первый можно назвать. Всё же полностью сформированной и "дойной" коровой был уже третий.

В третьей... Ну, сами элементы на манер башен, собирашек и доп. заданий вроде как давно уже елозились, но именно где-то с этой части их добавили в экшн от третьего лица. Так что фиг знает. А праймал - почти полное передиралово с предыдущих частей, но в Мезолите, насколько я могу судить.