Dos iniciativas legislativas aprobadas en Illinois buscan modificar el modo en que se imparte disciplina en las escuelas públicas y cómo las aseguradoras toman decisiones sobre la cobertura médica, en un contexto de creciente preocupación por el uso de la inteligencia artificial (IA)en servicios de salud.

SB 1519: el fin de las multas municipales como castigo escolar

El Senado estatal dio luz verde al proyecto de Ley 1519, impulsado por la senadora Karina Villa. La norma establece que ningún integrante del personal escolar podrá imponer multas, cargos ni citaciones basadas en ordenanzas municipales por conductas que ocurran dentro de las escuelas.

La medida busca poner fin a una práctica que reproduce mecanismos de criminalización en el ámbito educativo. “Una multa a un estudiante por su comportamiento en la escuela puede resultar en su ingreso al sistema, lo que perjudica sus oportunidades futuras“, declaró Villa, senadora demócrata por West Chicago, según consigna ABC Chicago.

En este sentido, la legisladora consideró que aplicar criterios policiales a la disciplina escolar resulta ineficaz para atender las verdaderas causas del comportamiento de los alumnos.

Si bien una ley vigente desde 2015 ya prohíbe que se apliquen multas económicas por mala conducta escolar, Villa advirtió que algunas escuelas derivan a estudiantes a las autoridades municipales como una forma de eludir la normativa.

La legislación también modifica el Código Escolar al introducir mayores exigencias de transparencia. Los distritos deberán reportar anualmente cuántos estudiantes fueron remitidos a las fuerzas del orden y cuántas veces.

El proyecto fue aprobado por 37 votos a favor y 17 en contra en el Senado y ahora debe ser debatido por la Cámara de Representantes.

En caso de avanzar, también obligará a los distritos escolares que cuenten con agentes de recursos escolares a firmar acuerdos formales con las agencias de seguridad a las que pertenecen. El objetivo de esos acuerdos es garantizar una capacitación adecuada y evitar el uso de mecanismos punitivos.

HB 0035: más control al uso de IA en seguros de salud

La Cámara de Representantes aprobó, por 79 votos contra 35, el proyecto de Ley HB 0035, impulsado por el representante Bob Morgan, demócrata. Esta iniciativa impide que las aseguradoras de salud se basen exclusivamente en sistemas de inteligencia artificial para rechazar, reducir o cancelar coberturas médicas.

Según esta norma, las decisiones que afectan de forma negativa a los pacientes deberán contar con una revisión humana y, en los casos clínicos, esa revisión estará a cargo de un médico profesional, señaló ABC Chicago.

Morgan explicó que su propuesta busca “prevenir decisiones adversas inapropiadas” contra los usuarios de seguros. “Mientras estamos aquí hoy, las aseguradoras están usando IA para decidir cuáles serán nuestras reclamaciones de seguro médico”, expresó durante el debate legislativo. “Estamos completamente ciegos a lo que eso podría significar y cómo se usará en nuestra contra y en contra de nuestras reclamaciones”, afirmó, según consignó WTTW.

El proyecto establece que todas las compañías deberán notificar al estado cuándo se emplean sistemas de inteligencia artificial. También estarán obligadas a informar al consumidor si su solicitud fue evaluada con esa tecnología.

Exigencias de supervisión humana y responsabilidad legal

La medida considera ilegal toda resolución automatizada que perjudique al paciente sin intervención de una persona con autoridad para revertirla. En ese sentido, las aseguradoras tendrán la obligación de desarrollar programas internos para garantizar el uso ético de la IA y responderán ante el estado, incluso si utilizan sistemas desarrollados por terceros.

El Departamento de Seguros de Illinois tendrá poder para investigar a las aseguradoras y exigir documentación detallada sobre el desarrollo, implementación y resultados de sus sistemas. También controlará los protocolos de gobernanza, auditoría y gestión de riesgos que aplican estas entidades. Según Morgan, el propósito no es frenar la innovación, sino “asegurar que la esté al servicio de las personas, no al revés”.