Abstract
Искусственный интеллект (ИИ) включает в себя методы формирования интеллектуального поведения компьютера, которое определяется как максимизация вероятности достижения поставленных целей. Он охватывает такие области, как обучение, рассуждение, планирование, восприятие, понимание языка и робототехнику, и отличается от конкретных технологий, таких как экспертные системы или глубокое обучение, что часто ошибочно считается. Машинное обучение, являющееся основной отраслью ИИ, позволяет системам совершенствоваться на основе опыта. Нейронные сети и глубокое обучение являются конкретными подходами в рамках ИИ/МО. Хотя ИИ предлагает потенциальные социальные выгоды за счет аугментации человеческих способностей, существуют опасения относительно злоупотребления ИИ, неравенства, автоматизации рабочих мест и автономного оружия. Такие концепции, как СИИ, суперинтеллект и потенциальный интеллектуальный взрыв, подчеркивают необходимость осторожности. Достижение сверхинтеллекта требует значительных, непредсказуемых прорывов, выходящих за рамки простого увеличения вычислительной мощности, описанного законом Мура. Экзистенциальный риск проистекает не из присущего машинам злого умысла, а из потенциальной несогласованности между целями машин и человеческими ценностями. Решение этой проблемы согласования ценностей имеет решающее значение для обеспечения того, чтобы будущие ИИ-системы оставались полезными и контролируемыми, что требует целенаправленных исследований в области безопасности и этики ИИ. – Аннотация, сгенерированная ИИ.