Въпреки интереса към инструментите за изкуствен интелект и технологиите с изкуствен интелект, много организации се въздържат поради една от трите основни пречки: липса на видимост, контрол и защита. И все по-често се стига до консенсус, че широкото приемане на ИИ означава необходимост от управление и управление на новите предизвикателства пред сигурността, породени от ИИ.

Стартиращата платформа за безопасност на изкуствения интелект WitnessAI, която  излезе от стелт режим, твърди, че се справя с тези предизвикателства, за да помогне на предприятията да използват ИИ безопасно и ефективно. Според компанията платформата WitnessAI Secure AI Enablement Platform се занимава с поверителността, управлението и сигурността на ИИ чрез модули за наблюдаемост на използването на ИИ; прилагане на политики и управление на използването на ИИ; и защита на служителите, клиентите и данните на предприятието от използването на ИИ.

Платформата ще бъде разгърната като изолирана, базирана на облак инстанция за всеки клиент, като всяка инстанция ще бъде криптирана с уникални ключове, за да се гарантира поверителността на данните и регулаторното разделение, заявиха от компанията. Като прихваща дейността между потребителите и големите езикови модели (LLM), платформата може да прилага политики за контрол и да осигурява защита на данните. Понастоящем компанията работи с повече от 20 партньори в областта на дизайна и планира ранни внедрявания през юни 2024 г.

Като част от стартирането WitnessAI набра и финансиране в размер на 27,5 млн. долара от Ballistic Ventures и GV Management. WitnessAI е основана и инкубирана през 2023 г. от Ballistic Ventures