[Перевод] Эстония пытается использовать ИИ в правосудии
Правительство — это, обычно, последнее место, где стоит искать инновации в области ИТ, или новые технологии вроде искусственного интеллекта. Но у Отта Велсберга, возможно, получится изменить ваше мнение на этот счёт. Он — 28 летний аспирант и директор по данным Эстонии, и руководит внедрением в этой крохотной прибалтийской стране ИИ и МО в сферу услуг, предоставляемых гражданам страны, которых насчитывается 1,3 млн.
«Мы хотим, чтобы правительство было как можно более экономным», — говорит худой, носящий очки Велсберг, гражданин Эстонии, работающий над диссертацией в шведском университете Умео, темой которой служит использование интернета вещей и показаний датчиков в правительственных услугах. Правительство Эстонии наняло Велсберга в прошлом августе, чтобы он занялся новым проектом по внедрению ИИ в различные министерства с целью ускорить предоставление услуг резидентам страны.
Он говорит, что ИИ внедрят критически важно. «Некоторые люди волнуются, что если мы уменьшим количество чиновников, пострадает качество сервиса. Но ИИ нам в этом поможет». Порядка 22% эстонцев работают на правительство; для европейских стран это средний показатель, но он превышает 18% в США.
Сиим Сиккут, директор по информации Эстонии, запустил несколько тестовых проектов на основе ИИ в 2017, за год до того, как решил нанять Велсберга. Велсберг говорит, что Эстония внедрила ИИ или МО уже в 13 различных местах, где алгоритм заменил чиновников.
К примеру, инспектора уже не занимаются проверкой фермеров, получающих каждое лето правительственные субсидии на сенокос. Спутниковые изображения, получаемые Европейским космическим агентством каждую неделю, с мая по октябрь, скармливаются алгоритму с глубоким обучением, который изначально разработали в обсерватории Тарту. Изображения накладываются на карту полей, по которой фермеры получают субсидии, чтобы эти места не превращались в леса.
Алгоритм оценивает каждый пиксель изображения, определяя, скошен ли данный участок поля. Кормление скота или частичное скашивание может сбить обработку изображений с толку; в таких случаях на место выезжает инспектор. За две недели до конечной даты покоса автоматическая система уведомляет фермеров по e-mail или SMS, включая в сообщение ссылку на спутниковое изображение поля. Система сэкономила €665 000 уже за первый год работы, позволив инспекторам меньше ездить по полям и сконцентрироваться на других вопросах принуждения к правопорядку, как говорит Велсберг.
Другое приложение с машинным обучением обрабатывает резюме людей, потерявших работу, и подыскивает им работодателей. 72% человек, получивших работу при помощи этой системы, остаются работать спустя 6 месяцев — до внедрения компьютерной системы эта цифра была ниже, и составляла 58%. В третьем примере детей, рождённых в Эстонии, автоматически записывают в школу при рождении, чтобы родителям не нужно было записываться вручную в очередь, или созваниваться с директорами школ. Система работает благодаря автоматической отправке записей из госпиталей в местные школы. Ей не требуется ИИ, но она показывает распространение автоматических систем.
В самом амбициозном из существующих на сегодня проектов Велсберг со своей командой по запросу Эстонского министерства юстиции разрабатывают «робота-судью», способного выносить решения по мелким запросам, сумма которых не превышает €7 000. Чиновники надеются, что система поможет разгрести очередь из дел, скопившуюся у судей и судебных клерков.
Проект находится на ранней фазе разработке, и, вероятно, запустится в конце этого года в тестовом режиме, начав с диспутов по контрактам. Теоретически две стороны смогут закачать документы и другую информацию, имеющую отношение к делу, а ИИ будет выносить решение, которое затем можно будет оспорить у судьи-человека. Предстоит разобраться ещё со множеством деталей. Велсберг говорит, что систему, возможно, придётся подстраивать после обратной связи от юристов и судей.
Эстония не первой пытается скрестить ИИ с законом, хотя, возможно, у неё первой получится выдать алгоритму право на принятие решений. В некоторых штатах США алгоритмы предлагают длительность уголовного заключения. Чатбот из Британии DoNotPay несколько лет назад помог оспорить 160 000 штрафов за парковку в Лондоне и Нью-Йорке. Таллинская юридическая фирма Eesti Oigusbüroo предоставляет бесплатную юридическую помощь при помощи чатбота и генерирует простые юридические документы для отправки коллекторам. Она планирует расширить свой сервис юридической помощи к концу года, собираясь находить юристов клиентам в Варшаве и Лос-Анджелесе, сказал директор компании Артур Фёдоров.
Идея с роботом-судьёй может сработать в Эстонии в частности потому, что её 1,3 млн граждан уже используют электронное государственное удостоверение, благодаря которому можно получить множество электронных услуг, например, отправку налоговых деклараций, или проголосовать на выборах.
Базы данных правительства взаимосвязаны при помощи цифровой инфраструктуры X-road, облегчающей процесс обмена данными. Граждане Эстонии также могут проверять, кто именно получал о них информацию на правительственном цифровом портале.
Переход Эстонии на цифровые правительственные услуги не обошёлся без глюков. Сторонние эксперты обнаружили в 2017 году уязвимость в эстонской системе идентификационных карточек, приведшую к довольно неприятным последствиям; её исправили, а карточки [почти 750 000 штук] заменили. Однако правительственные чиновники утверждают, что в стране не было ни одной крупной утечки данных с тех пор, как страна начала переходить на цифру в начале 2000-х. В 2016 году более двух третей взрослых жителей страны отправляли различные документы чиновникам через интернет, что почти в два раза превышает средний показатель по Европе.
«Доступ к самым приватным и конфиденциальным вещам находится не у правительства, а у банков и телекоммуникационных компаний», — говорит Танел Таммет, профессор информатики Таллинского технологического университета. Таммет — член команды эстонского правительства по внедрению ИИ, которая должна выпустить отчёт по этому проекту в мае, и предложить ещё 35 демонстрационных проектов, связанных с ИИ, к 2020-му году.
Дэвид Энгстром из Стэнфордского университета, эксперт по цифровому правительству, говорит, что сегодня граждане Эстонии, возможно, и могут доверять правительству свои цифровые данные, но всё это может измениться, если одна из систем, принимающих решение на основе ИИ, вдруг пойдёт вразнос.
Некоторые агентства в США, например, Управление соцобеспечения, использует ИИ и МО для ускорения сортировки и обработки данных, а Управление по охране окружающей среды используют их для определения того, какие производства необходимо проверить на предмет загрязнения окружающей среды. Однако Энгстром говорит, что совместная работа между разными отделениями федерального правительства в области ИИ идёт слишком медленно, в основном потому, что у каждого агентства свой формат баз данных, и данные не так-то легко передавать между ними. «Мы пока ещё не дошли до такого уровня», — сказал он.
Энгстром с командой студентов, изучающих юриспруденцию и информатику в Стэнфорде, изучают вопрос того, как лучше использовать ИИ в правительственных агентствах США. Вскоре они выступят с докладом перед Административной ассоциацией США, независимым федеральным агентством, которому получены рекомендации улучшений административных процессов.
Он не видит возможностей для появления робо-судьи с ИИ в США в ближайшее время. В США нет национальной системы идентификационных карт, а многие американцы боятся «всевидящего правительства». «Надлежащее судопроизводство прописано у нас в Конституции, и ей есть, что сказать, по поводу полностью автоматического принятия решений каким-либо правительственным агентством, — сказал Энгстром. — Это может служить препятствием даже при наличии возможности апелляции к человеку».
И всё же Энгстром считает, что наступит время, когда ИИ-ассистенты смогут выдавать судьям соответствующие делу законы, прецеденты и всю необходимую для принятия решения сопутствующую информацию. «ИИ обещает более последовательный подход к решению задач по сравнению с текущим, — сказал он. — И, возможно, система под управлением ИИ будет работать точнее, чем система, где решения принимают люди».
Недостаток её в том, что качество ИИ будет зависеть от качества его реализации. К примеру, алгоритмы, предлагающие сроки заключения, уже критиковали за предвзятость к чернокожим.
«Также приходится беспокоиться по поводу предвзятости в отношении автоматизации», — говорит Энгстром. Чем больше решений будут принимать машины, тем реже люди будут делать свой экспертный вклад в работу системы, говорит он. «Это одна из тех пугающих вещей, по поводу которых беспокоятся поборники приватности и сторонники качественного правительства, видя, как государство постепенно переходит в цифру».
Но пока эстонским чиновникам нравится идея ИИ, способного решать простейшие споры, и оставлять одушевлённым судьям и юристам больше времени на решение более сложных проблем. Внедрение ИИ в госуслуги «позволит нам специализироваться на том, что никогда не будет доступно машинам», — отметила президент Керсти Кальюлайд на недавней конференции North Star AI, проходившей в Таллине. «Я хочу специализироваться на том, чтобы быть сочувствующим и тёплым человеком. А для этого наш ИИ должен быть безопасным, и эта безопасность должна быть доказуемой».
