Los fabricantes de automóviles están impulsando la tecnología autónoma, pero esta ingeniera quiere límites

El otoño pasado, Missy Cummings envió un documento a sus colegas de la Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA, por su sigla en inglés) que reveló una sorprendente tendencia: cuando las personas que utilizaron sistemas avanzados de asistencia al conductor murieron o resultaron heridas en un accidente automovilístico, era más probable que hubieran excedido el límite de velocidad que las personas que condujeron automóviles por su cuenta.

El análisis de dos páginas de casi 400 accidentes que involucran sistemas como el Autopilot de Tesla y el Super Cruise de General Motors está lejos de ser concluyente. Sin embargo, plantea nuevas interrogantes sobre las tecnologías que se han estado instalando en cientos de miles de automóviles que transitan por las calles de Estados Unidos. Cummings afirmó que los datos indicaban que los conductores estaban confiando demasiado en las capacidades de los sistemas y que los fabricantes de automóviles, así como los reguladores, debían restringir cuándo y cómo se usa la tecnología.

La gente “está confiando excesivamente en la tecnología”, afirmó. “Están dejando que los autos aceleren. Y están teniendo accidentes que los están matando o lastimando gravemente”.

Cummings, profesora de ingeniería e informática en la Universidad George Mason que se especializa en sistemas autónomos, regresó recientemente al mundo académico tras estar más de un año en la NHTSA. El miércoles presentará algunos de sus hallazgos en la Universidad de Míchigan, la cual está a corta distancia en auto de Detroit, el núcleo principal de la industria automotriz de Estados Unidos.

Sistemas como el Autopilot y el Super Cruise, que pueden maniobrar, frenar y acelerar vehículos por sí solos, se están volviendo cada vez más comunes a medida que se intensifica la competencia entre los fabricantes para atraer a los compradores de automóviles con promesas de tecnología superior. En ocasiones, las empresas promocionan los sistemas como si estos hicieran a los vehículos autónomos. Pero la letra pequeña legal en sus documentos les exige a los conductores estar alertas y listos para tomar el control del vehículo en todo momento.

En entrevistas realizadas la semana pasada, Cummings afirmó que los fabricantes y los reguladores deberían evitar que dichos sistemas operen por encima del límite de velocidad y exigirles a los conductores que los utilizan que mantengan las manos en el volante y los ojos en el camino.

“Las compañías de automóviles, es decir Tesla y otras, están comercializando esto como una tecnología de manos libres”, sostuvo Cummings. “Eso es una pesadilla”.

Pero estas no son medidas que la NHTSA pueda implementar con facilidad. Lo más probable es que cualquier esfuerzo por controlar la manera en que se utilizan los sistemas de asistencia al conductor se enfrente a críticas y demandas legales de parte de la industria automotriz, en especial de Tesla y su director ejecutivo, Elon Musk, quien desde hace tiempo ha expresado su rechazo hacia las reglas que considera anticuadas.

Los expertos en seguridad también afirmaron que la NHTSA tenía un problema crónico de financiación escasa y carecía de suficiente personal calificado para realizar sus deberes de manera adecuada. La agencia también ha operado sin un líder permanente confirmado por el Senado durante gran parte de los últimos seis años.

Cummings reconoció que es difícil poner en práctica las reglas que estaba solicitando. Afirmó que también sabía que sus comentarios podrían enardecer de nuevo a los simpatizantes de Musk y Tesla, quienes la atacaron en las redes sociales y le enviaron amenazas de muerte tras ser nombrada asesora principal de la NHTSA.

Pero Cummings, de 56 años, una de las primeras mujeres piloto de combate en la Marina, enfatizó que se sentía obligada a expresar sus preocupaciones porque “los humanos están abusando de la tecnología”.

“Necesitamos establecer regulaciones que se ocupen de esto”, afirmó.

Ni la NHTSA ni Tesla respondieron a las solicitudes de comentarios para este artículo. GM hizo referencia a unos estudios que realizó con la Universidad de Míchigan y que examinaron la seguridad de su tecnología.

Debido a que el Autopilot y otros sistemas similares les permiten a los conductores renunciar al control activo del automóvil, a muchos expertos en seguridad les preocupa que la tecnología engañe a las personas y las convenza de que los automóviles se conducen solos. Cuando la tecnología presenta fallas o no puede enfrentar situaciones como tener que virar con rapidez para esquivar vehículos paralizados, es posible que los conductores no estén preparados para tomar el control con la rapidez necesaria.

Los sistemas utilizan cámaras y otros sensores para verificar si las manos del conductor están en el volante y si sus ojos están mirando el camino. Si el conductor no está atento durante un periodo de tiempo significativo, los sistemas se desconectan. Sin embargo, estos operan durante tramos en los que el conductor no está concentrado en conducir.

Cummings tiene mucho tiempo advirtiendo (en artículos académicos, en entrevistas y en redes sociales) que esto puede ser un problema. Fue nombrada asesora principal de seguridad de la NHTSA en octubre de 2021, poco después de que la agencia comenzara a recopilar datos de accidentes que involucraban automóviles con sistemas activos de asistencia al conductor.

Musk respondió a su nombramiento en una publicación en Twitter, en donde la acusó de ser “extremadamente prejuiciosa contra Tesla”, sin citar ninguna evidencia. Esto desencadenó una avalancha de declaraciones similares por parte de sus seguidores en las redes sociales y en correos electrónicos dirigidos a Cummings.

Cummings contó que al final tuvo que cerrar su cuenta de Twitter y abandonar temporalmente su casa debido al acoso y las amenazas de muerte que recibió en ese momento. Una de las amenazas fue lo suficientemente grave como para ser investigada por la policía en Durham, Carolina del Norte, donde residía.

Muchos de los alegatos fueron absurdos y falsos. Algunos de los simpatizantes de Musk notaron que Cummings se desempeñaba como miembro de la junta directiva de Veoneer, una empresa sueca que vende sensores a Tesla y a otros fabricantes de automóviles, pero confundieron la compañía con Velodyne, una empresa estadounidense cuya tecnología de sensores láser —llamada lidar— es percibida como la competencia de los sensores que Tesla utiliza para Autopilot.

Antes de unirse a la NHTSA, Cummings abandonó la junta directiva de Veoneer, vendió sus acciones en la compañía y se recusó de las investigaciones de la agencia que involucraban únicamente a Tesla, una de las cuales se anunció antes de su llegada.

El análisis que envió a los funcionarios de la agencia en otoño examinaba los sistemas avanzados de asistencia al conductor de varias compañías, incluidas Tesla, GM y Ford Motor. Cuando los automóviles que usaban estos sistemas estuvieron involucrados en accidentes fatales, viajaban por encima del límite de velocidad el 50 por ciento de las veces. En los accidentes que derivaron en lesiones graves, iban a exceso de velocidad el 42 por ciento de las veces.

En los accidentes que no involucraron sistemas de asistencia al conductor, esas cifras fueron del 29 y el 13 por ciento, respectivamente.

Durante su periodo de trabajo en la agencia federal de seguridad, Cummings también examinó el llamado “frenado fantasma”, que es cuando los sistemas de asistencia al conductor hacen que los automóviles disminuyan la velocidad y se detengan sin razón aparente. El mes pasado, por ejemplo, el sitio de noticias The Intercept publicó imágenes de un vehículo Tesla que frenó inexplicablemente en medio del puente de la Bahía que conecta San Francisco con Oakland, lo cual provocó una colisión múltiple de ocho autos que hirió a nueve personas, incluido un niño de 2 años.

Cummings afirmó que los datos de los fabricantes de automóviles y las quejas de los compradores mostraban que este era un problema presente en múltiples sistemas de asistencia al conductor y en los “taxis robots” desarrollados por compañías como Waymo, propiedad de la empresa matriz de Google, y Cruise, una división de GM. Estos taxis autónomos, que en la actualidad están en periodo de prueba en varias ciudades, están diseñados para operar sin conductor, y transportan pasajeros en San Francisco y Phoenix.

Aparentemente, muchos accidentes ocurren porque las personas que están detrás del volante de estos autos no están preparadas para esas paradas erráticas. “Los autos están frenando de formas que las personas no logran anticipar y, por ende, no pueden reaccionar bien”, afirmó.

Waymo y Cruise se negaron a comentar.

Cummings afirmó que los taxis robots estaban llegando a buen ritmo: tras pruebas limitadas, los reguladores federales, estatales y locales están controlando su crecimiento hasta que la tecnología se comprenda mejor.

Sin embargo, Cummings opinó que el gobierno debería hacer mayores esfuerzos para garantizar la seguridad de los sistemas avanzados de asistencia al conductor como Autopilot y Super Cruise.

La NHTSA “debe mostrar mayor fuerza”, afirmó Cummings. “No debe temerle a Elon ni a mover los mercados si existe un riesgo irrazonable evidente”.

c.2023 The New York Times Company