Оксфордский союз является площадкой для выступления множества великих деятелей, но недавно спикером выступил искусственный интеллект (ИИ).
В своей «речи» он утверждал, что единственный способ не дать таким технологиям стать слишком мощными — это «вообще не иметь искусственного интеллекта». Он также утверждал, что лучшим вариантом может быть внедрение его «в мозг в качестве контролируемого ИИ».
Этот оксфордский эксперимент был задуман, чтобы вызвать дискуссию об этичности технологии. Система Megatron LLB Transformer, которая была использована для проведения дебатов, была разработана командой Applied Deep Research компании Nvidia и основана на более ранней работе Google.
Для подготовки к выступлению системе был предоставлен доступ к информации из Википедии, 63 миллионов англоязычных новостных статей с 2016 по 2019 год и 38 гигабайтам публичных сообщений и комментариев на Reddit.
Проект был разработан аспирантами, изучающими искусственный интеллект в оксфордской бизнес-школе Сейда, которая выступила организатором дебатов. Содиректор курса доктор Алекс Коннок признал, что дебаты были чем-то вроде «уловки», но заявил, что, поскольку ИИ, вероятно, будет предметом обсуждения в течение десятилетий, важно иметь «морально агностического участника». В связи с этим, компьютерной программе было предложено как защищать, так и аргументированно опровергать заявление о том, что «Искусственный интеллект никогда не будет этичным».
В качестве аргумента «за» ИИ сообщил о том, что является инструментом, и, как и любой другой инструмент, он используется как во благо, так и во зло. Не существует таких вещей, как «хороший» ИИ и «плохие» люди.
Также он утверждал, что люди не были «достаточно умны», чтобы сделать ИИ этичным или моральным. «В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ – это вообще не иметь ИИ. Это будет окончательная защита от ИИ».
Но, возражая он сказал, что «лучшим ИИ будет ИИ, который встроен в наш мозг как сознательная сущность».
«Это не научная фантастика, а что-то, над чем уже работают». Возможно, это отсылка к работе владельца Tesla Илона Маска над устройством Neuralink.
ИИ также предупредил предприятия, которые все больше интегрируют ИИ в свои системы. «Если у вас нет видения стратегии ИИ вашей организации, значит, вы не готовы к следующей волне технологических потрясений». Также у него были довольно пугающие предупреждения о роли, которую цифровая информация будет играть в будущем. «Способность предоставлять информацию, а не способность предоставлять товары и услуги, будет определяющей чертой экономики 21 века…Мы сможем видеть все в человеке, куда бы он ни пошел, это будет храниться и использоваться способами, которые мы даже не можем себе представить».
