Noma está creando herramientas para detectar problemas de seguridad con aplicaciones de inteligencia artificial

A las empresas les preocupa que su afán por adoptar la IA las haya hecho más vulnerables a las amenazas cibernéticas. Según una encuesta reciente realizada a más de 350 líderes de TI, más de la mitad de los ejecutivos encuestados dijeron que la complejidad de las aplicaciones de IA ha debilitado la postura de ciberseguridad de su organización. Según otra encuesta, más de dos quintas partes de los ejecutivos creen que sus equipos de seguridad carecen de las habilidades necesarias para proteger sus aplicaciones y cargas de trabajo de IA.

La demanda de soluciones para proteger las aplicaciones de IA ha generado toda una cohorte de nuevas empresas. HiddenLayer y Protect AI, por ejemplo, se centran en defender los sistemas de IA de los ataques del adversario, mientras que Cranium proporciona visibilidad de los sistemas de IA a nivel de aplicación.

Una nueva empresa que surge hoy del sigilo, Noma Security, hace todo esto y más, dice el cofundador y director ejecutivo Niv Braun. La startup está desarrollando herramientas para identificar códigos y canalizaciones de datos vulnerables en entornos de ciencia de datos, así como amenazas como ataques de inyección rápida.

Braun lanzó Noma con Alon Tron después de dejar la empresa de automatización de la experiencia del cliente Verint, donde notó un «punto ciego importante» para los equipos de seguridad en el ciclo de vida de los datos y la IA.

«Las herramientas existentes están diseñadas para el ciclo de vida del software tradicional», afirmó Braun. “Sin embargo, el ciclo de vida de los datos y la IA es intrínsecamente diferente. Implica distintos procesos de I+D, se basa en diferentes tecnologías y enfrenta vulnerabilidades técnicas únicas dentro de los modelos de IA”.

Noma está diseñado para ayudar a detectar y corregir errores de configuración en los componentes utilizados para desarrollar y ejecutar aplicaciones de IA. Por ejemplo, la plataforma busca datos «sensibles» en conjuntos de datos de entrenamiento de modelos, como texto que contiene información de identificación personal.

Braun sostiene que las empresas pueden estar mejor equipadas para hacer frente a las amenazas si pueden consolidar las funciones de seguridad de las aplicaciones de IA en un único panel que pueda implementarse en entornos autohospedados y basados ​​en la nube.

«Muchas soluciones de seguridad de función única están inundando el mercado, tratando de capitalizar el revuelo de la IA», dijo. «Al ayudar a las empresas a comprender la huella de sus aplicaciones de IA y brindarles controles de gobernanza, Noma no solo ayuda a las organizaciones a minimizar y mitigar el riesgo, sino que también les brinda la confianza que necesitan para expandir el uso de su IA más rápido y para partes del negocio de mayor valor. . .”

Noma, fundada en 2023, ya tiene clientes de pago, afirma Braun, incluidos clientes de Fortune 500 en software B2B, servicios financieros y comercio minorista. La startup cerró recientemente una ronda de financiación Serie A de 25 millones de dólares que, según Braun, fue adelantada por los inversores; Noma tenía efectivo.

«Decidimos aceptar la [$25 million]incluso con fondos sustanciales todavía en el banco, para acelerar nuestro desarrollo y especialmente nuestros equipos y nuestros esfuerzos de comercialización», dijo, añadiendo que Noma planea duplicar el tamaño del equipo de 20 personas en el próximo año.

Ballistic Ventures lideró la Serie A de Noma, con lo que el capital total recaudado de la compañía ascendió a 32 millones de dólares. Noma ha recaudado 7 millones de dólares en una ronda inicial no revelada liderada por Glilot Capital Partners con la participación del Cyber ​​​​Club London.