AGI — искусственный общий интеллект

Автор: Создано ИИ / Стивен Уайтлоу;

Общий искусственный интеллект, или AGI, — это концепция системы искусственного интеллекта, обладающей широким и гибким интеллектом, сравнимая с человеческим интеллектом или превосходящая его. Современные системы искусственного интеллекта могут быть чрезвычайно эффективными при решении конкретных задач, таких как написание текстов, программирование, перевод, генерация изображений и распознавание образов. Однако они не обладают всеобъемлющим интеллектом в полном смысле этого слова, как у человека. AGI по-прежнему остается концепцией, вызывающей споры и ориентированной на будущее. Некоторые эксперты полагают, что она может появиться в ближайшем будущем; другие считают, что до этого ещё очень далеко или что сама концепция недостаточно четко определена.

ИИ — искусственный интеллект

Источник: предоставленное изображение; автор: сгенерировано ИИ / Стивен Уайтлоу;

Искусственный интеллект — это обширная область, связанная с созданием машин или программного обеспечения, способных выполнять задачи, обычно ассоциируемые с человеческим интеллектом. К таким задачам могут относиться распознавание речи, понимание языка, составление прогнозов, идентификация изображений, рекомендация товаров, игра в игры, написание текстов или помощь в принятии решений. ИИ не означает, что машина обладает сознанием или похожа на человека. В большинстве практических случаев под ИИ понимается программное обеспечение, использующее данные и алгоритмы для получения полезных результатов.

Согласованность ИИ

Источник: предоставленное изображение; автор: сгенерировано ИИ / Стивен Уайтлоу;

Согласованность ИИ — это задача обеспечения того, чтобы системы ИИ вели себя в соответствии с целями, ценностями и намерениями человека. Система может технически выполнять инструкцию, но при этом давать нежелательный результат. Например, если ИИ-системе поручить максимизировать количество кликов, она может продвигать сенсационный контент. Вопрос согласованности звучит так: «Делает ли ИИ то, что мы действительно имели в виду, а не просто то, о чём мы буквально попросили?» Первая известная попытка решения проблемы согласованности была предпринята Исааком Азимовым ещё в 1942 году: «Три закона робототехники» представляют собой основополагающий набор этических правил, призванных регулировать поведение машин и предотвращать нанесение вреда людям. Это одна из важнейших идей в области безопасности ИИ на сегодняшний день, и она до сих пор не решена.

ИИ-помощник

Источник: предоставленное изображение; автор: сгенерировано ИИ / Стивен Уайтлоу;

ИИ-помощник — это инструмент, предназначенный для помощи пользователям в выполнении задач посредством диалога или команд. К примерам относятся системы, способные составлять черновики электронных писем, создавать резюме документов, отвечать на вопросы, генерировать изображения, анализировать данные или помогать в планировании проектов. ИИ-помощники становятся все более распространенными в офисах, на мобильных устройствах, в поисковых системах и в сфере образования. Их качество зависит от лежащей в их основе модели, данных, к которым они имеют доступ, а также от четкости инструкций пользователя, известных как «промты» (prompts).

Предвзятость ИИ

Источник: предоставленное изображение; Автор: сгенерировано ИИ / Стивен Уайтлоу;

Предвзятость ИИ возникает, когда система ИИ выдает несправедливые, искажённые или неточные результаты в отношении определённых групп, тем или ситуаций. Предвзятость может проникать через обучающие данные, проектные решения, исторические неравенства или способ использования системы. Например, алгоритм подбора персонала, обученный на основе прошлых решений о приеме на работу, может повторять старые шаблоны дискриминации. Предвзятость ИИ не всегда является преднамеренной, но тем не менее может наносить реальный вред.

Этика ИИ

Источник: предоставленное изображение; автор: сгенерировано ИИ / Стивен Уайтлоу;

Этика ИИ — это наука о том, как следует ответственно проектировать, использовать и регулировать ИИ. Она охватывает вопросы справедливости, конфиденциальности, прозрачности, подотчётности, безопасности, прав человека и социального воздействия. Этический ИИ — это не просто способ избежать скандала; это создание систем, которым люди могут доверять. Для местных предприятий, школ и государственных служб этика ИИ означает постановку практических вопросов: справедливо ли это? Безопасно ли это? Кто несет ответственность, если что-то пойдет не так?

Управление ИИ

Источник: предоставленное изображение; Автор: сгенерировано ИИ / Стивен Уайтлоу;

Управление ИИ — это совокупность правил, политик, процессов и обязанностей, определяющих порядок разработки и использования ИИ. В компании управление ИИ может включать процедуры утверждения, проверки на соответствие требованиям защиты данных, обучение персонала, оценку рисков и правила, определяющие, в каких случаях результаты работы ИИ должны проверяться людьми. Эффективное управление не сдерживает инновации. Оно делает инновации более безопасными, надёжными и обоснованными.