Этика искусственного интеллекта: сбалансированный подход к развитию и применению

В статье рассматриваются ключевые этические принципы ИИ - благодеяние, непричинение вреда, автономия, справедливость и объяснимость - и анализируется, насколько современные технологии ИИ соответствуют этим принципам. Особое внимание уделено алгоритмической предвзятости, проблеме «черного ящика» и ответственности в системах ИИ. Алгоритмическая предвзятость исследуется на примере практического тестирования моделей ИИ, в частности генеративных систем OpenAI. В рамках исследования модели получили задание генерировать изображения на основе запросов «школьный учитель» и «преподаватель университета».

Результаты выявили укоренившиеся гендерные и возрастные стереотипы. Дальнейшие тесты, включавшие запросы для женских и мужских профессий, продемонстрировали схожую предвзятость, отражающую культурные и демографические ограничения обучающих данных. Эти примеры подчеркивают острую необходимость в репрезентативных наборах данных и строгих процессах проверки для минимизации предвзятости в системах ИИ.