BrightBox
Narzędzie diagnostyczno – monitorujące służące do wnikliwego badania przyczyn błędów w modelach
uczenia maszynowego.
Istnieją praktyczne obszary zastosowania metod AI / ML, w których możliwość zrozumienia i wyjaśnienia natury ich działania jest wymagana prawnie (lub planowana jest regulacja formalna).
- Z drugiej strony, w wielu obszarach (takich jak cyberbezpieczeństwo, monitorowanie ryzyka w procesach przemysłowych, telemedycyna itp.) poprawa przejrzystości i interpretowalności modeli AI / ML jest bardzo oczekiwana przez rynek, niezależnie od istnienia lub nie, regulacji prawnych.
Technologia BrightBox pomaga w następujących obszarach:
01.
Diagnozowanie modeli uczenia maszynowego – zarówno na poziomie globalnym, jak i lokalnym
02.
Ciągły audyt i monitoring działania modeli uczenia maszynowego
03.
Szacowanie i analiza błędów i niepewności
04.
Analiza preskryptywna oraz analiza typu „co by było gdyby” dla niepewności i decyzji dotyczących modelu uczenia maszynowego
Wartość biznesowa technologii
BrightBox jest technologią diagnostyczną, która może być użyta do analizy modeli predykcyjnych i identyfikacji problemów związanych z modelem i danymi bez bezpośredniego dostępu do modelu.
Potrzebujesz jedynie wstępnie przetworzonych danych referencyjnych, które zostały użyte do trenowania modelu, oraz innych wstępnie przetworzonych danych (na przykład danych użytych w procesie oceny modelu lub danych ze środowiska produkcyjnego modelu) oraz przewidywań modelu, na podstawie których chcesz zdiagnozować model.
BrightBox to także zestaw narzędzi programistycznych do szacowania i analizy niepewności modeli ML, kompleksowej diagnostyki błędów modeli ML oraz identyfikacji pierwotnych przyczyn błędów w modelowaniu.
Jak to działa?
Technologia BrightBox pozwala na diagnozowanie modeli ML – badanie typów błędów i ich możliwych przyczyn dla pojedynczych punktów danych, a następnie zapewnienie ram dla analizy i generalizacji lokalnych wyników do globalnej diagnostyki problemów związanych z modelem i danymi. W ten sposób chcemy zapewnić inżynierom ML wgląd w rzeczywiste przyczyny błędów i umożliwić podejmowanie bardziej świadomych decyzji dotyczących procesu aktualizacji modelu i danych.
BrightBox jest przeznaczony do wykorzystania przez zespoły Data Science komunikujące się z Business Ownerami, jako środek do ulepszenia modeli Machine Learning z jednej strony i wypełnienia luki w zrozumieniu biznesu z drugiej.
Właściwości:
Diagnostyka (globalna i lokalna) modeli ML
Monitorowanie błędów modeli ML
Szacowanie i analiza niepewności modelu ML
Wstępna analiza niepewności modelu ML
Wstępna analiza decyzji dotyczacych aproksymatora modeli ML (modelu zastępczego)
Analiza What-if dla niepewności modelu ML i decyzji dotyczących aproksymatora modelu ML (modelu zastępczego)
Diagnostyka (globalna i lokalna) modeli ML
Analiza What-if dla niepewności modelu ML i decyzji dotyczących aproksymatora modelu ML (modelu zastępczego)
Szacowanie i analiza niepewności modelu ML
Właściwości:
