Общие черты между AI 2027 и AI как обычной технологией

Abstract

Несмотря на принципиальные разногласия относительно долгосрочных перспектив развития искусственного интеллекта (ИИ), краткосрочные ожидания в отношении способностей ИИ и приоритетов политики демонстрируют значительное сближение позиций. До возможного появления сильного СИИ ИИ функционирует преимущественно как обычная технология, выполняющая роль инструмента. Хотя существующие бенчмарки вероятно достигнут предельного уровня к 2028 году, высокие результаты тестов не означают автоматизации реальных задач. Из-за сохраняющихся проблем с ошибками «длинного хвоста» ИИ-системы будут по-прежнему терпеть неудачи при решении рутинных реальных задач и останутся непригодными для применения в условиях, требующих высокой степени надежности, по крайней мере до 2029 года, даже несмотря на то, что эта технология достигнет общего экономического эффекта, сопоставимого с Интернетом. Поскольку проблема согласования ИИ по-прежнему не решена, безопасность не может опираться исключительно на обучение моделей. Разумное управление требует предотвращения автономного контроля ИИ над критически важными системами, обеспечения прозрачности со стороны разработчиков, внедрения независимого аудита, создания возможностей для отслеживания состояния и предотвращения неконтролируемого рекурсивного самоулучшения, при этом обеспечивая благотворное экономическое распространение способностей ИИ. – Аннотация, сгенерированная ИИ.