Вопрос: В процессе обучения искусственного интеллекта в нем полностью сохраняется механизм "черного ящика". Если до этого человек создавал компьютеры, то он четко знал, что это микросхема, этот алгоритм, есть причина и следствие, все идет по цепочке и приводит к какому-то результату. Человек понимал всю схему.

При обучении искусственного интеллекта моделируется строение нейросетей. На первом уровне в него загружается огромная информация – триллионы данных. После этого в нем что-то происходит, как в "черном ящике". То есть нейронные сети сами выстраиваются внутри "черного ящика"?

Ответ: Да, это и есть та точка, в которой мы не владеем данными, информацией.

Реплика: Эта информация находится именно внутри "черного ящика", и человек не знает, что там происходит как по отношению к себе, так и по отношению к своему творению. Он просто получает какой-то результат, который статистически его больше удовлетворяет.

Ответ: Здесь вообще возникает очень много вопросов. Как мы выбираем результат? Интуитивно или потому, что в нас это заложено, что именно такой результат нам ближе, с ним мы согласны жить, а с тем – ни в коем случае. То есть здесь есть большая проблема в самом человеке, а не в машине – не в том, что она выбирает, а в том человеке, который выбирает.

Поэтому множество вопросов пока остаются открытыми. Но я думаю, что в ближайшие годы мы начнем это больше понимать. Когда мы сможем это решить, я не знаю, но понять сможем.

Из ТВ программы "Каббала экспресс", 31.07.2023

Вещь в себе

Внутри "черного ящика"

Искусственный разум