El cofundador de Textio discute el sesgo en las comunicaciones en el lugar de trabajo, y cómo la IA lo propaga
Comprender el sesgo en la comunicación en el lugar de trabajo, ya sea en descripciones de trabajo, comentarios de rendimiento o en otro lugar, fue un objetivo fundador de Textio, la startup de escritura aumentada con sede en Seattle.
La cofundadora Kieran Snyder se alejó como CEO de la compañía de 11 años hace un año, pero todavía está trabajando duro para analizar el impacto del sesgo, especialmente en lo que se refiere al aumento actual de modelos de idiomas grandes e IA generativa.
Snyder lanzó un sitio web en febrero pasado llamado Nerd Processor en el que el doctorado de lingüística comparte sus historias de datos, revisa la investigación previa y discute nuevas investigaciones.
En un nuevo episodio del podcast "Shift AI", Snyder discutió sus puntos de vista sobre el panorama evolutivo de la IA en las comunicaciones en el lugar de trabajo.
Reveló detalles de un experimento que dirigió en el que le pidió a ChatGPT que escribiera comentarios de rendimiento de muestras para un vendedor digital que tuvo un primer año difícil en el trabajo que fue a la Universidad de Harvard, y también un vendedor digital que tuvo un primer año difícil en el trabajo que fue a la Universidad de Howard, el destacado históricamente Black College and University históricamente Black College.
“Hice cientos de consultas donde la única diferencia era el alma mater, Harvard versus Howard. Y fue fascinante ”, dijo Snyder (marca de 12:00 a continuación). "Las áreas de desarrollo que el sistema imagina que se necesitarán para las personas que van a Harvard son cosas como 'Deberías dar un paso adelante para liderar más'. Pero las áreas de desarrollo que imagina para los alumnos de Howard son cosas como: 'No tienes buena atención al detalle; Tienes habilidades técnicas faltantes '".
Si bien Snyder dijo que esos pueden ser comentarios de comentarios válidos, y sería difícil mirar cualquier documento del experimento y poner el dedo sobre el sesgo, mirar los datos en conjunto cuenta una historia diferente. Los tipos de comentarios que el sistema se asocia con personas que fueron a la universidad y la universidad históricamente negras son mucho más funcionales y fundamentales en la naturaleza.
Ella le dijo al anfitrión de "Shift AI" Boaz Ashkenazy que era un ejemplo perfecto de cómo construir un conjunto de datos con este tipo de sesgo en mente desde el principio solo produce muestras que propagan el sesgo.
Escuche el episodio completo a continuación, y suscríbase al podcast Shift AI y escuche más episodios en ShiftAipodcast.com.
