[Перевод] Женщины в AI, его влияние на страны Глобального Юга
Всем привет! Это перевод одной из серии интервью с Chinasa T. Okolo c сайта techcrunch о женщинах связанных с AI.
Чтобы предоставить женщинам-ученым, сосредоточенным на AI, и другим специалисткам их заслуженное — и давно назревшее — время в центре внимания, TechCrunch публикует серию интервью с выдающимися женщинами, внесшими значительный вклад в революцию в области AI. Мы публикуем эти материалы в течение всего года, по мере того как продолжается бум AI, подчеркивая важные работы, которые часто остаются незамеченными.
Чинаса Т. Около является стипендиатом Брукингского института (Вашингтон, США) в программе по изучению управления в Центре технологических инноваций. До этого она работала в комитете по этике и социальному воздействию, который помогал разрабатывать Национальную стратегию искусственного интеллекта Нигерии, а также была советником по вопросам политики и этики AI для различных организаций, включая Агентство по развитию Африканского союза и Квебекский институт искусственного интеллекта. Недавно она получила степень доктора философии в области компьютерных наук в Корнельском университете, где исследовала влияние AI на страны Глобального Юга.
Как вы начали свою карьеру в области AI? Что вас привлекло в этой сфере?
Изначально я перешла в область AI, потому что увидела, как вычислительные методы могут способствовать развитию биомедицинских исследований и демократизировать доступ к здравоохранению для маргинализированных сообществ. В последний год бакалавриата в Помонском колледже я начала проводить исследования с профессором, специализирующимся на взаимодействии человека и компьютера, что познакомило меня с проблемами предвзятости в AI. В ходе моего обучения в аспирантуре меня заинтересовало понимание того, как эти проблемы будут влиять на людей в странах Глобального Юга, которые составляют большинство населения мира и часто исключены из разработки AI и недостаточно представлены в этой сфере.
Какая работа в области AI вызывает у вас наибольшую гордость?
Я невероятно горжусь своей работой с Африканским союзом (АС) по разработке Континентальной стратегии по искусственному интеллекту для Африки, которая направлена на то, чтобы помочь государствам-членам АС подготовиться к ответственному внедрению, развитию и управлению AI. Подготовка стратегии заняла более 1,5 лет, и она была выпущена в конце февраля 2024 года. Сейчас идет период открытого обсуждения, с целью ее официального принятия государствами-членами АС в начале 2025 года.
Как нигерийка-американка в первом поколении, выросшая в Канзас-Сити, штат Миссури, и впервые покинувшая США только во время учебы за границей в бакалавриате, я всегда стремилась сосредоточить свою карьеру в Африке. Участие в такой значимой работе на раннем этапе моей карьеры вдохновляет меня на поиск подобных возможностей, чтобы помогать формировать инклюзивное, глобальное управление AI.
Как вы справляетесь с вызовами в индустрии технологий, где доминируют мужчины, и, соответственно, в сфере AI, где также преобладают мужчины?
Для меня было крайне важно найти сообщество людей, разделяющих мои ценности, чтобы справляться с вызовами в мужской индустрии технологий и AI. Мне повезло наблюдать за значительными достижениями в области ответственного AI и важными исследованиями, выявляющими вред AI, которые возглавляют чернокожие женщины-ученые, такие как Тимнит Гебру, Сафи Нобл, Абеба Бирхане, Руха Бенджамин, Джой Буоламвини и Деб Раджи, с которыми я смогла познакомиться за последние несколько лет. Их лидерство вдохновило меня продолжать работу в этой области и показало ценность «идти против течения» для достижения значимого результата.
Какой совет вы бы дали женщинам, стремящимся войти в сферу AI?
Не бойтесь отсутствия технического образования. Область AI многогранна и нуждается в экспертах из различных областей. На моё исследование значительно повлияли социологи, антропологи, когнитивные ученые, философы и другие специалисты в области гуманитарных и социальных наук.
Какие наиболее актуальные проблемы стоят перед AI по мере его развития?
Одной из самых важных проблем будет улучшение справедливого представления некоренных культур в значимых языковых и мультимодальных моделях. Подавляющее большинство моделей AI обучается на английском языке и на данных, которые в основном представляют западные контексты, что исключает ценные перспективы большинства населения мира.
Кроме того, гонка за созданием более крупных моделей приведет к большему истощению природных ресурсов и усилению воздействия на климат, что уже непропорционально сильно влияет на страны Глобального Юга.
Какие проблемы должны учитывать пользователи AI?
Значительное количество инструментов и систем AI, которые были введены в общественное использование, преувеличивают свои возможности и просто не работают. Многие задачи, для которых люди стремятся использовать AI, могут быть решены более простыми алгоритмами или базовой автоматизацией.
Кроме того, генеративный AI может усугубить вред, наблюдаемый от предыдущих инструментов AI. На протяжении многих лет мы видели, как эти инструменты демонстрируют предвзятость и приводят к вредным решениям в отношении уязвимых сообществ, что, вероятно, будет усиливаться по мере роста масштаба и охвата генеративного AI.
Однако, обеспечение людей знаниями о понимании ограничений AI может помочь улучшить ответственное внедрение и использование этих инструментов. Повышение грамотности в области AI и данных среди широкой общественности станет фундаментальным по мере быстрого интегрирования AI-инструментов в общество.
Какой лучший способ ответственно разрабатывать AI?
Лучший способ ответственно разрабатывать AI — это критически оценивать предполагаемые и непреднамеренные случаи использования этих инструментов. Люди, создающие системы AI, несут ответственность за отказ от использования AI в вредоносных сценариях, таких как война и полицейская деятельность, и должны обращаться за внешним руководством, чтобы определить, подходит ли AI для других целевых случаев использования. Учитывая, что AI часто усиливает существующие социальные неравенства, также крайне важно, чтобы разработчики и исследователи были осторожны при создании и курировании наборов данных, используемых для обучения моделей AI.
Как инвесторы могут лучше способствовать развитию ответственного AI?
Многие утверждают, что растущий интерес венчурного капитала к быстрой прибыли на текущей волне AI ускорил появление «AI-snake oil», термин, введенный Арвиндом Нараянаном и Саяшем Капуром. Я согласна с этим мнением и считаю, что инвесторы должны занимать лидерские позиции вместе с учеными, представителями гражданского общества и членами отрасли для пропаганды ответственного развития AI. Как ангел-инвестор, я видела много сомнительных инструментов AI на рынке. Инвесторы также должны вкладывать средства в экспертизу в области AI для оценки компаний и запрашивать внешние аудиты инструментов, представленных в презентациях.
Есть ли что-то еще, что вы хотели бы добавить?
Текущий «летний бум AI» привел к появлению множества «экспертов по AI», которые часто отвлекают от важных обсуждений текущих рисков и вреда AI и предоставляют вводящую в заблуждение информацию о возможностях инструментов на базе AI. Я призываю всех, кто хочет получить образование в области AI, критически относиться к таким голосам и искать надежные источники для обучения.
