Вопрос: Существует проблема, которая называется "проблема постановки цели". Она действует и относительно человека, и относительно искусственного интеллекта.

Если человек ставит перед собой цель, то ему нужно оценивать в глобальном смысле, хорошо это или плохо, приближает она его к чему-то или отдаляет. Он оценивает это как на генном уровне, так и на основе приобретенных от общества моральных принципов, законов государства. 

А когда происходит обучение искусственного интеллекта, то здесь возникает проблема, как оценивать его действия, ведь если не учесть хотя бы один фактор, то искусственный интеллект его проигнорирует.

Предположим, перед ним стоит задача засеять поле клубникой, но при этом не убить человека. Если фактор "не убить человека" будет проигнорирован, не включен в общий алгоритм, то это нанесет большой вред. Это настолько сложносоставная система, которую изначально спроектировать невозможно.

Как определить, что хорошо, а что плохо? Я понимаю, что это проблема высшего порядка. Но все-таки на основании чего можно сделать или хотя бы приблизиться к выводу, что хорошо, а что нет?

Ответ: Во-первых, то, что делается для блага людей, – не одного человека, не одной группы, а для блага абсолютно всех людей, то и хорошо. Во-вторых, хорошо, если при этом не наносится невосполнимый вред природе. Вот, пожалуй, и всё.

Эти два правила, по сути, очень сложны, но внутри них многое заложено. Далее...

Из ТВ программы "Каббала экспресс", 31.07.2023