Znajdź nas

BrightBox

Narzędzie diagnostyczno – monitorujące służące do wnikliwego badania przyczyn błędów w modelach
uczenia maszynowego.

Istnieją praktyczne obszary zastosowania metod AI / ML, w których możliwość zrozumienia i wyjaśnienia natury ich działania jest wymagana prawnie (lub planowana jest regulacja formalna).

Technologia BrightBox pomaga w następujących obszarach:

01.

Diagnozowanie modeli uczenia maszynowego – zarówno na poziomie globalnym, jak i lokalnym

02.

Ciągły audyt i monitoring działania modeli uczenia maszynowego

03.

Szacowanie i analiza błędów i niepewności

04.

Analiza preskryptywna oraz analiza typu „co by było gdyby” dla niepewności i decyzji dotyczących modelu uczenia maszynowego

Wartość biznesowa technologii

BrightBox jest technologią diagnostyczną, która może być użyta do analizy modeli predykcyjnych i identyfikacji problemów związanych z modelem i danymi bez bezpośredniego dostępu do modelu.

Potrzebujesz jedynie wstępnie przetworzonych danych referencyjnych, które zostały użyte do trenowania modelu, oraz innych wstępnie przetworzonych danych (na przykład danych użytych w procesie oceny modelu lub danych ze środowiska produkcyjnego modelu) oraz przewidywań modelu, na podstawie których chcesz zdiagnozować model.

BrightBox to także zestaw narzędzi programistycznych do szacowania i analizy niepewności modeli ML, kompleksowej diagnostyki błędów modeli ML oraz identyfikacji pierwotnych przyczyn błędów w modelowaniu.

Jak to działa?

Technologia BrightBox pozwala na diagnozowanie modeli ML – badanie typów błędów i ich możliwych przyczyn dla pojedynczych punktów danych, a następnie zapewnienie ram dla analizy i generalizacji lokalnych wyników do globalnej diagnostyki problemów związanych z modelem i danymi. W ten sposób chcemy zapewnić inżynierom ML wgląd w rzeczywiste przyczyny błędów i umożliwić podejmowanie bardziej świadomych decyzji dotyczących procesu aktualizacji modelu i danych.

BrightBox jest przeznaczony do wykorzystania przez zespoły Data Science komunikujące się z Business Ownerami, jako środek do ulepszenia modeli Machine Learning z jednej strony i wypełnienia luki w zrozumieniu biznesu z drugiej.

Właściwości:

Diagnostyka (globalna i lokalna) modeli ML

Monitorowanie błędów modeli ML

Szacowanie i analiza niepewności modelu ML

Wstępna analiza niepewności modelu ML

Wstępna analiza decyzji dotyczacych aproksymatora modeli ML (modelu zastępczego)

Analiza What-if dla niepewności modelu ML i decyzji dotyczących aproksymatora modelu ML (modelu zastępczego)

Diagnostyka (globalna i lokalna) modeli ML

Analiza What-if dla niepewności modelu ML i decyzji dotyczących aproksymatora modelu ML (modelu zastępczego)

Szacowanie i analiza niepewności modelu ML

Właściwości:

Wstępna analiza niepewności modelu ML

Wstępna analiza decyzji dotyczacych aproksymatora modeli ML (modelu zastępczego)

Monitorowanie błędów modeli ML

Zaplanuj spotkanie

z jednym ekspertem ds. wyjaśnialnej sztucznej inteligencji