техно

Microsoft представила "этичные" инструменты для разработчиков

20 мая 2020
07:32
826
Поделиться:

Microsoft представила инструменты ответственного использования машинного обучения, которые позволят корректировать проблемы с нейросетями. Система поможет исправить "баг" выборки, незащищённость данных и не только.

Как отметил вице-президент Microsoft Azure AI Эрик Бойд, от разработчиков всё чаще требуют создание ИИ-систем, работу которых легко объяснить и которые соответствуют нормативным требованиям. Но эксперты в области машинного обучения не всегда способны сами оценить корректность работы систем.

Чтобы решить проблему, Microsoft запустила инструменты, которые позволят лучше понимать поведение моделей машинного обучения, обеспечивать конфиденциальность данных и избежать некорректной выборки. Новые функции будут доступны в сервисе Azure Machine Learning, а также в виде открытого кода на GitHub.

За понимание модели отвечает инструмент InterpretML. Оценку и повышение объективности ИИ-систем обеспечивает Fairlearn — он позволяет разработчикам проверить эффективность модели на группах людей разного пола, цвета кожи, возраста и по другим характеристикам. Инструмент WhiteNoise обеспечивает дифференциальную приватность. Все инструменты могут экспериментировать с открытым кодом на GitHub и использовать его в Azure Machine Learning.

Microsoft привела примеры необходимости новых инструментов. В 2016 году старший исследователь лаборатории компании в Рэдмонде Марко Тулио Рибейро представил научный доклад, в котором объяснил принцип работы классификаторов моделей компьютерного зрения.

Чтобы показать работу технологии он обучил систему предсказывать, что на фото со снежным фоном будет изображён «волк», а на фото без снег — «хаски». После этого он применил модель на изображениях волков в заснеженных пейзажах, а хаски без снега и показал результаты экспертам, которые не знали, на чём была обучена система.


Теги: Microsoft

Если вы заметили орфографическую ошибку в тексте, выделите ее мышью и нажмите Ctrl+Enter

Хотите первыми узнавать о главных событиях в Украине - подписывайтесь на наш Telegram-канал


Подтверждено:  
3 510 610 
+8 655
Болеет:  
339 005 
-14 690
Выздоровело:  
3 082 619 
+22 878
Умерло:  
88 986 
+467
Привито:  
13 753 066 
+70 797

Сегодня
6 декабря 2021
больше новостей
delta = Array ( [1] => 0.0012087821960449 [2] => 0.10645890235901 )