Проблема постановки цели
Вопрос: Существует проблема, которая называется "проблема постановки цели". Она действует и относительно человека, и относительно искусственного интеллекта.
Если человек ставит перед собой цель, то ему нужно оценивать в глобальном смысле, хорошо это или плохо, приближает она его к чему-то или отдаляет. Он оценивает это как на генном уровне, так и на основе приобретенных от общества моральных принципов, законов государства.
А когда происходит обучение искусственного интеллекта, то здесь возникает проблема, как оценивать его действия, ведь если не учесть хотя бы один фактор, то искусственный интеллект его проигнорирует.
Предположим, перед ним стоит задача засеять поле клубникой, но при этом не убить человека. Если фактор "не убить человека" будет проигнорирован, не включен в общий алгоритм, то это нанесет большой вред. Это настолько сложносоставная система, которую изначально спроектировать невозможно.
Как определить, что хорошо, а что плохо? Я понимаю, что это проблема высшего порядка. Но все-таки на основании чего можно сделать или хотя бы приблизиться к выводу, что хорошо, а что нет?
Ответ: Во-первых, то, что делается для блага людей, – не одного человека, не одной группы, а для блага абсолютно всех людей, то и хорошо. Во-вторых, хорошо, если при этом не наносится невосполнимый вред природе. Вот, пожалуй, и всё.
Эти два правила, по сути, очень сложны, но внутри них многое заложено.
Вопрос: Это сходно с каббалистическими определениями, когда вроде бы простое определение содержит в себе буквально все мироздание или весь путь человечества от начала и до конечной цели. Как оперировать такими вещами на практике?
Ответ: Только лишь при условии правильного образования для всех населяющих планету. То есть загружать в человека правильную информацию в процессе жизни и вместе с ним прорабатывать ее, пока она не станет практической необходимостью и реальностью.
Настоящий блог модерируется. Предлагается писать только в рамках темы блога "Каббала, наука и смысл жизни". Комментировать и задавать вопросы могут только зарегистрированные пользователи.
Если Вы зарегистрированный пользователь, то войдите в систему.
Если нет - зарегистрируйтесь.