Самообучающиеся машины опасны для человечества, заявил бизнесмен, сооснователь образовательного фонда "Айб" Давид Ян во время своего выступления на тему "Вызовы на пути к успеху" в рамках серии мастер-классов "Формула успеха".
"Современные модели начинают создавать другие модели – это эволюция. Если появилась модель, которая может создать ещё более совершенную модель, то в конечно счете эволюционно она достигнет точки сингулярности (точка во времени, с которой машины начинают совершенствовать сами себя без помощи кого-либо – ред.)", - сказал он.
По словам Яна, по своим возможностям такая модель может вполне превзойти способности человеческого мозга, и это лишь вопрос времени.
"В человеческом мозгу около 20 млрд. нейронов. Такого рода модели пока не создавались, но технически их уже могут создать. Те модели, которыми мы уже пользуемся, сделаны на уровне 10 млн. нейронов. Для сравнения у пчелы 1 млн., а у собаки 150 млн", - сказал он.
Бизнесмен не исключает вариант, при котором машина может физически уничтожить человека, которые ограничивает её возможности.
"Если человек зайдет в комнату и выключит один компьютер в комнате, то возможно, что машина, понимая, что человек ограничил её возможности, примет решение заблокировать дверь в комнату. А ещё через какое-то время она примет решение спустить дамбу, которая стоит над городом в 150 тыс. человек", - сказал Ян.
По его словам есть два пути борьбы с этим.
"Первое - это создание альтернативных моделей, в которых целевая функция будет сводиться к слежке за появлением вредоносных сетей и блокировать их. Второе направление - это гибридная биологически-техническая система. Биологическая эволюция не может поспеть за технической, и единственный путь - это интерфейс "человек-компьютер", чтобы человек мог мыслить не менее быстро, чем самая быстрая нейронная сеть. Все сходятся в том, что будущее за гибридными системами”, - сказал бизнесмен.
Давид Ян является основателем технологической империи (ABBYY), разработчиком первого портативного компьютера для молодежи (Cybiko), создателем инновационной системы управления ресторанным и гостиничным бизнесом (iiko) и платформы для онлайн-платежей (Platius).
Новости-Армения