Los formuladores de políticas están luchando por mantenerse al día con el aumento de la IA en la atención médica.

Los legisladores y reguladores en Washington están confundidos acerca de cómo regular la inteligencia artificial en la atención médica, y la industria de la IA cree que hay muchas posibilidades de que lo arruinen. «Es un problema increíblemente desalentador», afirmó el Dr. Robert Wachter, jefe del Departamento de Medicina de la Universidad de California en San Francisco. «Existe el riesgo de que las armas se inflamen y se regulen excesivamente». El impacto de la IA en la salud ya está generalizado. La Administración de Alimentos y Medicamentos ha aprobado 692 productos de IA y los algoritmos ayudan a programar a los pacientes. Determinar los niveles de personal en las salas de emergencia. O incluso transcribir y resumir las visitas al médico para ahorrarle tiempo. Están empezando a ayudar a los radiólogos a leer resonancias magnéticas y rayos X. Wachter dice que a veces consulta informalmente GPT-4, un modelo de lenguaje grande de la empresa OpenAI, para casos complejos. El alcance del impacto de la IA y su potencial para cambios futuros Esto significa que el gobierno ya se está poniendo al día “muy lentamente”, dijo en un correo electrónico Michael Yang, socio gerente senior de OMERS Ventures, una firma de capital de riesgo. Los colegas de Yang han invertido mucho en el sector. La firma de capital riesgo Rock Health dijo que los financieros han invertido casi 28 mil millones de dólares en empresas de salud digital especializadas en inteligencia artificial. Un problema con el que están lidiando los reguladores, dijo Wachter, es que no es como si un medicamento tuviera la misma química dentro de cinco años. Al igual que hoy, la IA cambia con el tiempo. Pero la buena gobernanza está tomando forma. La Casa Blanca y varias agencias centradas en la salud han desarrollado reglas para garantizar la transparencia y la privacidad. El Congreso también ha mostrado interés. El Comité de Finanzas del Senado celebró la semana pasada una audiencia sobre la IA en la atención sanitaria. Además de regulaciones y leyes. El lobby también está aumentando: CNBC contó que el número de organizaciones que divulgaron actividades de lobby sobre IA aumentó un 185 % en 2023. El grupo comercial TechNet ha lanzado una iniciativa de 25 millones de dólares, que incluye compras de anuncios de televisión. Educar a la audiencia sobre los beneficios de la Inteligencia Artificial. Para saber cómo utilizarla de forma inteligente, hay que aprovechar la IA, ya que estamos en las primeras etapas de invención de la tecnología», dijo en un correo electrónico Bob Kocher, socio de la firma de capital de riesgo Venrock que anteriormente trabajó en la administración Obama. Kocher ha hablado con senadores Sobre la regulación de la IA destacó algunas de las dificultades que enfrentarán los sistemas de salud al adoptar el producto. Los médicos enfrentan riesgos de negligencia Es posible que utilicen tecnología que no comprenden para tomar decisiones clínicas. Un análisis de los datos de la Oficina del Censo de enero realizado por la consultora Capital Economics encontró que el 6,1% de las empresas de atención médica planean utilizar IA en los próximos seis meses. En medio de los 14 sectores encuestados, los sistemas de IA, como cualquier producto médico, pueden representar un riesgo para los pacientes. Un ejemplo: pueden inventar cosas, pero la IA «escribe hermosas notas», dijo. El sistema hace referencia a «literatura reciente» de manera tan convincente que los colegas de Wachter se preguntan brevemente si se ha perdido una nueva línea de investigación. Resultó que el chatbot había falsificado sus afirmaciones. Existe el riesgo de que la IA amplifique los prejuicios que ya existen en el sistema de salud: históricamente, las personas de color han recibido menos atención que los pacientes blancos. Los estudios muestran que los pacientes negros con huesos rotos tienen menos probabilidades que los blancos de recibir analgésicos. Este sesgo podría arraigarse si la inteligencia artificial se entrena con esos datos y luego actúa sobre ellos. La investigación sobre la IA utilizada por los principales inversores ha confirmado que ya está sucediendo. Pero el problema está más extendido: Wachter dijo que la UCSF probó un producto para predecir las citas médicas perdidas. Los pacientes que no tienen la oportunidad de venir a hacerse la prueba tienen más probabilidades de recibir una doble cita. La prueba encontró que las personas de color tenían más probabilidades de no presentarse. Queda por ver si los hallazgos son precisos. “La respuesta ética es preguntar: ¿Por qué esto es tan? Y hay algo que se puede hacer al respecto”, dijo Wachter, más allá de las exageraciones. Esos riesgos seguirán atrayendo la atención con el tiempo. Los expertos en inteligencia artificial y los funcionarios de la FDA han enfatizado la necesidad de algoritmos transparentes. que ha sido monitoreado a largo plazo por humanos Tanto para los reguladores como para los investigadores externos, los productos de IA se adaptan y cambian a medida que se incorporan nuevos datos. y los científicos desarrollarán nuevos productos Los formuladores de políticas necesitarán invertir en nuevos sistemas para rastrear la IA con el tiempo, dice la profesora Katherine Baicker de la Universidad de Chicago. dijo Tester en una audiencia del Comité de Finanzas del Senado. «Los mayores avances son cosas en las que aún no hemos pensado», dijo en una entrevista. KFF Health News, anteriormente Kaiser Health News, es una sala de redacción nacional que produce noticias en profundidad sobre temas de salud.

Source link