Los fundadores negros están creando ChatGPT personalizados para una experiencia más personalizada

Al principio, John Pasmore estaba entusiasmado con ChatGPT.

El fundador de la serie había estado en el espacio de la inteligencia artificial desde al menos 2008. Recordó los días en que los expertos declaraban que pasarían décadas antes de que el mundo viera algo como ChatGPT. Avance rápido: ese día ya está aquí.

Pero hay un problema.

ChatGPT, una de las herramientas de inteligencia artificial más poderosas del mundo, lucha con los matices culturales. Eso es bastante molesto para una persona negra como Pasmore. De hecho, este descuido provocó la ira de muchos negros que ya no se veían adecuadamente representados en los algoritmos que están llamados a salvar algún día el mundo. El ChatGPT actual ofrece respuestas demasiado generalizadas a preguntas específicas que atienden a determinadas comunidades, ya que su formación parece eurocéntrica y occidental en su sesgo. Esto no es único: la mayoría de los modelos de IA no se crean pensando en las personas de color. Pero muchos fundadores negros están convencidos de que no se quedarán atrás.

El año pasado surgieron varios chatbots y versiones de ChatGPT propiedad de negros para atender específicamente a las comunidades negras y marrones, ya que los fundadores negros, como Pasmore, buscan capitalizar la cultura del deslizamiento de OpenAI.

«Si le preguntas a los modelos en general quiénes son algunos de los artistas más importantes de nuestra cultura, te darán Leonardo da Vinci y Miguel Ángel», dijo Pasmore sobre ChatGPT. «No dice nada sobre India o China, África o incluso los afroamericanos, porque tiene un sesgo que se centra en la trayectoria europea de la historia».

Entonces Pasmore lanzó Latimer.AI, un modelo lingüístico para ofrecer respuestas adaptadas para reflejar las experiencias de las personas negras y de color. Erin Reddick fundó ChatBlackGPT, un chatbot también centrado en comunidades negras y marrones. A nivel mundial existe Spark Plug, con sede en Canadá, que es una alternativa a ChatGPT para estudiantes negros y morenos. África también está experimentando una gran innovación en este espacio, con modelos lingüísticos emergentes para atender a los más de 2.000 idiomas y dialectos hablados en el continente que los modelos occidentales de IA aún ignoran.

«Nosotros somos los que guardamos nuestras propias historias y experiencias», dijo a TechCrunch Tamar Huggins, fundadora de Spark Plug. «Necesitamos crear sistemas e infraestructura, que poseamos y controlemos, para garantizar que nuestros datos sigan siendo nuestros».

La IA personalizada está aquí

Los modelos generalizados de IA no pueden capturar fácilmente la experiencia afroamericana porque muchos aspectos de esa cultura no están en línea. Los algoritmos actuales buscan en Internet su procedencia, pero muchas tradiciones y dialectos dentro de la cultura afroamericana se transmiten oralmente o de primera mano, lo que deja una brecha entre lo que un modelo de IA comprenderá sobre la comunidad versus los matices de lo que realmente sucede.

Esta es una de las razones por las que Pasmore intentó utilizar fuentes como Amsterdam News, uno de los periódicos negros más antiguos de Estados Unidos, mientras construía Latimer.AI, centrándose en la precisión en lugar de la capacitación sobre datos generados por los usuarios extraídos de Internet. Cuando hizo esto, empezó a ver diferencias entre su modelo y el de ChatGPT.

Recordó que una vez la gente le preguntó a ChatGPT sobre el Ferrocarril Subterráneo, el pasaje por el que los afroamericanos esclavizados viajaban a los estados del norte para escapar de la esclavitud. El modelo de ChatGPT menciona a los esclavos fugitivos, mientras que Latimer.AI ajustó la redacción, refiriéndose a «esclavos» o «buscadores de libertad», que está más en línea con lo que se volvió más sintonizado socialmente durante el cual se habla de los antiguos esclavos.

«Hay algunas diferencias sutiles en el lenguaje que utiliza el modelo debido a los datos de entrenamiento, y el modelo en sí sólo piensa en las personas negras y de color», dijo Pasmore.

Mientras tanto, ChatBlackGPT de Erin Reddick todavía está en modo beta y planea lanzarse el 16 de junio. Su producto funciona como parece: un chatbot donde uno puede hacer preguntas y recibir respuestas personalizadas sobre la cultura negra. «El núcleo de lo que estamos haciendo está realmente impulsado por la comunidad», afirmó.

Ella está en el proceso de construir la herramienta, preguntando a los usuarios cómo quieren que se vea y cómo quieren que se comporte. También se está asociando con instituciones educativas como colegios y universidades históricamente negros (HBCU) para trabajar con los estudiantes para enseñarles y ayudarlos a entrenar su algoritmo. Dijo que quiere «crear una oportunidad de aprendizaje completa para que las personas negras y de color tengan un espacio seguro para explorar la IA».

«El algoritmo prioriza las fuentes de información de los negros para que pueda hablar de un conjunto de conocimientos con el que se puede identificar más inmediatamente que la experiencia promedio», dijo a TechCrunch, y agregó que, al igual que el producto de Pasmore, técnicamente todos pueden usarlo.

Tamar Huggins creó Spark Plug para ofrecer también una experiencia más adaptada a las comunidades negras y de color. Su plataforma traduce material educativo al inglés vernáculo afroamericano (AAVE), el etnolecto asociado con las comunidades afroamericanas. Ese dialecto tradicionalmente se transmite oral y directamente en lugar de estudiarse y escribirse como el inglés estándar, lo que significa que la precisión de un modelo de IA (o de una persona) que aprende solo de Internet disminuirá. Capturar AAVE con precisión es importante, no solo para que el chatbot responda usándolo, sino también para que los estudiantes puedan escribir más fácilmente indicaciones que hagan que la IA les devuelva los resultados que necesitan.

«Al crear contenido que resuene entre los estudiantes negros, nos aseguramos de que se vean a sí mismos en la educación, lo cual es fundamental para un alto compromiso y éxito académico», dijo Huggins. “Si se les da la oportunidad, las grandes tecnológicas casi siempre priorizarán las ganancias sobre las personas. Así que creamos nuestro propio carril en el espacio de la IA”.

Huggins entrenó su algoritmo en los escritos de autores negros del Renacimiento de Harlem, autores negros en educación e incluso la verborrea de su hija adolescente para capturar la esencia de AAVE. Huggins también trabaja con educadores, lingüistas y expertos culturales para revisar y validar los resultados de Spark Plug. Su producto tampoco se basa en ChatGPT. Es su propio modelo, lo que significa que los usuarios controlan sus datos.

Pasmore también tiene planes de construir un modelo fundamental separado para su Latimer.AI. Actualmente, está trabajando para expandir su empresa a las escuelas, especialmente a las HBCU, ya que cada día más estudiantes recurren a ChatGPT para completar su trabajo.

«Este es un mejor compañero de IA para gran parte del trabajo que deben realizar los niños negros y morenos», dijo.

Unir a la diáspora

África se ve ignorada en el actual movimiento de IA. Por ejemplo, sólo el 0,77% del total de revistas de IA del mundo provienen del África subsahariana, en comparación con Asia Oriental y América del Norte con el 47,1% y el 11,6%, respectivamente, según un Informe del Índice de Inteligencia Artificial 2023. En términos de población, en comparación con América del Norte, África constituye alrededor del 17% de la población mundial, en comparación con sólo el 7% de América del Norte. Cuando llega el momento de recurrir a la información y a los expertos en IA, la probabilidad de utilizar investigaciones del África subsahariana es bastante baja, lo que podría tener un impacto en el desarrollo de herramientas globales de IA.

Si bien África está experimentando un gran desarrollo en la creación de modelos lingüísticos más inclusivos que sirvan mejor a la diáspora negra, actualmente, los modelos de inteligencia artificial actuales, desde ChatGPT hasta Gemini, no pueden admitir completamente los más de 2000 idiomas que se hablan en África.

Yinka Iyinolakan creó CDIAL.AI para abordar este problema. CDIAL.AI es un chatbot que puede hablar y comprender casi todos los idiomas y dialectos africanos, con especial énfasis en los patrones de habla más que en el texto.

Iyinolakan se hizo eco en TechCrunch del mismo sentimiento que muchos estadounidenses negros: que los modelos fundamentales de la IA se basan principalmente en datos de Internet y de los idiomas más hablados. Al igual que su cultura madre afroamericana, muchas lenguas y tradiciones africanas están ausentes de Internet, ya que es una cultura históricamente comunicada de forma oral y no escrita. Esto significa que los modelos de IA no tienen suficiente información sobre las culturas africanas para capacitarse, lo que deja una brecha de conocimiento.

Para CDIAL.AI, Iyinolakan ha reunido a más de 1200 hablantes nativos y lingüistas de toda África para recopilar conocimientos y perspectivas para construir lo que él elogia como «el primer modelo multilingüe de voz de gran tamaño en el mundo». La compañía planea expandirse en los próximos 12 meses para incluir aún más idiomas y crear un modelo que admita texto, voces e imágenes.

Él no está solo aquí. Google otorgó recientemente a Jacaranda Health, con sede en Kenia, una subvención de 1,4 millones de dólares para desarrollar sus servicios de aprendizaje automático para que funcionen en más idiomas africanos e Intron Health recaudó recientemente varios millones de dólares para ampliar su reconocimiento clínico del habla para los más de 200 acentos que se hablan en toda África. .

«Silicon Valley quiere creer que es el principio y el fin de la inteligencia artificial», dijo Iyinolakan. «Pero para ‘conseguir’ la inteligencia artificial, que es lo que todas las empresas tienen como estrella polar, necesitan incluir un tercio del conocimiento mundial».

hacemos progresos

Adoptar chatbots de IA no es la única innovación que los fundadores de Black están tratando de abordar.

Steve Jones y DeSean Brown fundaron la empresa pocstock para crear imágenes de archivo de personas de color ya que, durante décadas, hubo una falta de minorías representadas en imágenes de archivo. Esta es una de las razones por las que los modelos actuales temen principalmente las imágenes de personas blancas cuando los usuarios les piden que generen imágenes de cualquier cosa, desde médicos hasta cantantes pop.

«Todas las plataformas y herramientas deben capacitarse a partir de datos completos, racialmente inclusivos y culturalmente precisos, o de lo contrario [perpetuate] los problemas de sesgo que enfrenta actualmente nuestra sociedad en general”, dijo Jones a TechCrunch. Para abordar esto, pocstock ha pasado los últimos cinco años recopilando datos sobre diversidad y creando su propio sistema de etiquetado visual que contribuye a una base de datos que las empresas utilizan para ayudar a entrenar sus modelos de IA para que puedan producir imágenes más inclusivas.

Sin embargo, se están produciendo algunas mejoras. Jones dijo que ha notado que las empresas de imágenes de archivo más grandes incorporan empresas de inteligencia artificial que están dando más pasos para aumentar la diversidad de su contenido. Pasmore también ve un futuro más brillante por delante, diciendo que la IA personalizada es el futuro de todos modos y que cuanto más interactúen los modelos de IA con sus usuarios, más entenderá los deseos y necesidades de una persona específica, «lo que, creo, elimina mucho de prejuicio. .”

También puede haber espacio para modelos de IA más específicos de cada cultura en el futuro, especialmente a medida que sigan surgiendo más alternativas de propiedad de negros. Después de todo, el mundo es vasto y tiene más matices: no tiene sentido tratar de encajarlo en una caja negra.

«Mi esperanza es que más fundadores de color se involucren en el desarrollo de sus propias plataformas de inteligencia artificial o en la creación de nuevos trabajos relacionados con la inteligencia artificial lo antes posible en este auge económico», dijo Jones. «La IA creará trillonarios y quiero ver a personas de color asumir la posición de productores y no sólo de consumidores».

Este artículo ha sido actualizado para reflejar esto. Spark Plug utiliza sus propios modelos fundamentales y la descripción de Latimer.AI. También se actualizó que DeSean Brown ayudó a encontrar el pocstock.