LAUSD elimina el chatbot de inteligencia artificial para ayudar a los estudiantes después del colapso de la empresa que lo construyó

Un chatbot de IA muy esperado, diseñado a medida para ayudar a los estudiantes a progresar académicamente y a los padres a navegar por las complejidades de las escuelas públicas de Los Ángeles, cerró después de que la empresa que lo creó despidió a la “gran mayoría” de su personal. apagado.

El distrito escolar dijo que puso fin a su acuerdo con AllHere, la compañía que creó el chatbot “Ed” con energía solar, después de que “nos enteramos de su fracaso financiero”. AllHere no respondió a una consulta del Times esta semana y se desconoce su nivel de actividad.

En un desarrollo separado, gran violación de datos afectó a una empresa de datos en la nube llamada Snowflake que trabajaba con LA Unified. El distrito dijo el martes que no estuvo involucrado en la situación de AllHere y que estaba trabajando con las autoridades de investigación para evaluar los daños y qué registros del distrito se obtuvieron a través de un contratista externo.

Mientras tanto, el distrito presentó el chatbot, por el que AllHere pagó $3 millones, el 14 de junio, menos de tres meses después de presentar la figura animada como un compañero de conversación fácil de usar para los estudiantes y que pronto estará en las redes sociales. Una guía esencial para los padres. “Ed” es a la vez un chatbot, representado como un sol redondo y feliz, y una plataforma en línea que busca agregar registros de estudiantes, tareas, calificaciones, recomendaciones académicas y recomendaciones de salud mental en un solo portal.

La plataforma en línea fue presentada en marzo por el Superintendente. Alberto Carvalho como un cambiador histórico y singular en el campo de la educación. Esto, dijo, era la piedra angular de los esfuerzos para hacer que la escuela fuera más atractiva, moderna, personalizada y exitosa. Habló de marcar el ritmo del país en una nueva tecnología (la inteligencia artificial) que simplemente está dando al país un nuevo comienzo.

Los funcionarios enfatizaron el martes que las fuentes de datos del chatbot siguen estando disponibles en la plataforma Ed. Los usuarios sólo tienen que navegar a través de él de la manera tradicional: usando cuadros desplegables y haciendo clic en los enlaces. Una característica constante es que se puede encontrar información sin necesidad de iniciar sesión más de una vez, dijo Tony Aguilar, superintendente de educación especial y programas especiales del distrito.

El distrito planea recuperar el chatbot, pero eso es mientras los funcionarios descubren cómo proceder.

El sistema educativo es reconocido como todo en términos de información del distrito, así como de protección de la información privada.

También era un trabajo en progreso. El chatbot solo respondió las preguntas que reconoció. Otras preguntas se pueden responder con algo como “Pregúntale a tu maestro”, dijo Aguilar.

AllHere ha trabajado con el distrito para ampliar la base de conocimientos del sistema y este trabajo debería continuar sin la cooperación de la empresa de Boston. Además, AllHere proporcionó moderadores humanos para monitorear el sistema.

Aguilar dijo que el distrito no tuvo problemas hasta el 14 de junio, cuando la compañía anunció que efectivamente cerraría.

La falta de conciencia del distrito es un problema, dijo Stephen Aguilar, director asociado del Centro para la IA y la Sociedad de la USC, y sin relación con Tony Aguilar del distrito.

Aunque AllHere era un favorito de los medios en el mundo de la tecnología, el LAUSD tuvo la oportunidad y la responsabilidad de profundizar más, dijo Aguilar de la USC.

“Obviamente podemos señalar con el dedo a las empresas, especialmente a las nuevas empresas, que se esfuerzan por prometer demasiado y… en general, no cumplir lo suficiente. Especialmente en este entorno, ganan las cabezas más frías y dicen: “Está bien, me prometes la luna. Veamos si podemos hacer despegar este avión antes de que vaya al espacio”. En última instancia, la responsabilidad recae en el distrito escolar”.

AllHere tenía un contrato con LA Unified por hasta $6 millones para supervisar el proyecto durante cinco años y ha pagado aproximadamente la mitad de eso, según el comunicado.

El segundo sistema escolar más grande del país “logró su objetivo de desarrollar un producto que proporcionara rutas de aprendizaje individualizadas para los estudiantes… independientemente del resultado con AllHere”, según el comunicado.

El representante de la empresa, Toby Jackson, proporcionó una verificación del estado de AllHere el 20 de junio en respuesta a una consulta privada sobre la empresa obtenida por The Times.

“Es cierto que Joanna Smith-Griffin ya no es la directora ejecutiva de AllHere y el 14 de junio tuvimos que despedir a la mayoría de nuestro personal debido a nuestra situación financiera”, dijo Jackson en un correo electrónico.

“Dicho esto”, continuó Jackson. “Soy el director de tecnología de AllHere y el arquitecto de Ed, y he permanecido en un equipo muy pequeño, principalmente para garantizar que no haya interrupciones en el servicio a Ed y ayudar a respaldar una transición ordenada”.

Chris Whiteley, identificado como el ex director de ingeniería de software de AllHere, fue despedido en abril, según un artículo en The 74, un sitio web de noticias educativas, que planteó preocupaciones sobre la calidad de la protección de datos. reportado primero sobre el problema AllHere.

blancoley reportado al sitio de educación que advirtió a los funcionarios del distrito escolar de Los Ángeles que el chatbot de su empresa estaba procesando los registros de los estudiantes de una manera que potencialmente violaba las reglas de privacidad de datos del Distrito Unificado de Los Ángeles y ponía los datos confidenciales en riesgo de ser pirateados, y nadie respondió.

Whiteley alega que las solicitudes que contenían información personal de los estudiantes se compartieron indebidamente con terceras empresas. Además, siete de cada ocho solicitudes de chatbot se procesaron a través de servidores extranjeros.

Tal comportamiento viola el contrato con el distrito, dijo Tony Aguilar.

Faith Boninger, profesora investigadora del Centro Nacional de Políticas Educativas de la Universidad de Colorado Boulder, dijo que no se deben descartar las preocupaciones por la seguridad.

“Si yo fuera padre o empleado en Los Ángeles, este episodio me haría sonar la alarma”, dijo. “El distrito no tiene control sobre la información compartida con ninguna de las empresas con las que tiene contrato. Lo que estas empresas hacen con los datos se rige por políticas de privacidad y términos y condiciones que, por regla general, no brindan la protección adecuada.”

En un comunicado, el distrito escolar dijo que “continuará tomando todas las medidas necesarias para garantizar la protección de la privacidad y la seguridad”.

El comienzo de las vacaciones.

El chatbot se lanzó oficialmente el 20 de marzo en el salón decorado del Centro Educativo Roybal en las afueras del centro de la ciudad. Había arcos de globos y un brillante podio de bambú con enormes pantallas a ambos lados.

Junto a los dignatarios había un hombre vestido como Ed, básicamente un sol redondo y amarillo con piernas.

La mesa donde los estudiantes probaban los productos casi se perdió en el sonido del DJ, que escribía preguntas y obtenía respuestas muy interesantes pero potencialmente útiles.

“En pocas palabras”, dijo Carvalho, “Ed toma los datos que el distrito ya tiene, los analiza, los personaliza según las necesidades de cada estudiante y luego, como puede ver, crea un camino para cada estudiante en el sistema escolar.

“Le dice a María: ‘Estás un poco atrasada en lectura’. Pero te tenemos. Haga clic aquí.’ María hace clic y sin necesidad de iniciar sesión adicional. Un inicio de sesión para todos los recursos abre la puerta para satisfacer las necesidades de cada estudiante”.

Una declaración del distrito el martes ofreció más aclaraciones:

“Después de la pandemia, experimentamos problemas masivos con el ausentismo crónico, la disminución del rendimiento académico y los estudiantes desmotivados. Una plataforma totalmente integrada junto con un chatbot que proporcionaba recordatorios/empujones fue nuestra respuesta a este desafío creciente y queríamos aprovechar la tecnología de vanguardia disponible”.

En una entrevista de marzo con The Times, Smith-Griffin habló sobre la empresa que fundó. “Nuestro objetivo siempre ha sido… mejorar los resultados de los estudiantes asegurándonos de que la familia adecuada tenga acceso a la información adecuada en el momento adecuado”, dijo. “Muchas veces las escuelas tienen experiencias de muy alto impacto, como programas de tutoría y visitas domiciliarias, que son muy difíciles de ampliar. Así que la primera versión de AllHere trataba sobre cómo utilizamos la tecnología basada en la investigación… Es una versión de AllHere era un chatbot 24 horas al día, 7 días a la semana para que los padres respondieran preguntas frecuentes sobre la escuela “.

Añadió: “Lo que fue tan poderoso para nosotros en el trabajo del LAUSD es que siempre hemos trabajado las 24 horas del día, pero su objetivo era: ¿Cómo se utiliza esta tecnología y se crea un mundo en el que también los padres puedan aprender fácilmente experiencias? cuando eran niños, de maneras que sean apropiadas para su edad, innovadoras, pero aún muy basadas en la investigación?”