Неурегулированные дебаты о будущем ИИ

Abstract

В данном анализе рассматриваются распространенные противоречивые точки зрения, связанные с развитием ИИ, путем детального изучения трех основных технических дебатов о его будущем развитии. Во-первых, в нём проводится исследование потенциальной траектории развития современной парадигмы генеративных предварительно обученных трансформеров (GPT). Аргументы в пользу продолжения значительного прогресса подчеркивают постепенные улучшения, открытие новых масштабируемых способностей (например, рассуждение, мультимодальность) и циклы внедрения, основанные на данных. С другой стороны, к ограничениям относятся такие постоянные проблемы, как галлюцинации и чрезмерная уверенность, фундаментальные ограничения, такие как контекстные окна и отсутствие физического воплощения, а также снижение отдачи от предобучения. Во-вторых, в дискуссии рассматривается, в какой степени ИИ может самостоятельно совершенствоваться, опираясь на концепцию «интеллектуального взрыва» И. Дж. Гуда. Эмпирические примеры включают ускоренное ИИ обучение больших языковых моделей (LLM) и код, написанный ИИ, что сдерживается потенциальными узкими местами, такими как ошибки, требующие проверки человеком, необходимость научного суждения и эксперименты в реальных условиях. Наконец, в работе проводятся дебаты о том, останутся ли передовые ИИ-системы инструментами или эволюционируют в самостоятельные сущности. Точка зрения «ИИ как инструмент» подчеркивает контроль над ИИ и сопоставимость с другими технологиями. Напротив, аргументы в пользу парадигмы «нечто иное» указывают на то, что ИИ-системы «выращиваются», а не «создаются», демонстрируют возникающее ситуационное осознание и сталкиваются с сильными коммерческими стимулами к автономности и универсальности, что потенциально может привести к появлению систем, функционирующих скорее как самоподдерживающиеся процессы оптимизации, чем как простые инструменты. – Аннотация, сгенерированная ИИ.