Noticias

Jan 12, 2024

Los informáticos que diseñan el futuro no se ponen de acuerdo sobre lo que significa la privacidad

Investigadores de la Universidad Carnegie Mellon querían crear un sistema que preservara la privacidad

Investigadores de la Universidad Carnegie Mellon querían crear un sensor inteligente que preservara la privacidad. Luego, fueron acusados ​​de violar la privacidad de sus compañeros.

Cuando los estudiantes y profesores de informática del Instituto de Investigación de Software de la Universidad Carnegie Mellon regresaron al campus en el verano de 2020, había mucho a lo que adaptarse.

Más allá de la inevitable extrañeza de volver a estar rodeado de colegas después de meses de distanciamiento social, el departamento también se estaba mudando a un edificio completamente nuevo: el TCS Hall de última generación de 90,000 pies cuadrados.

Las características futuristas de la sala incluían sensores de dióxido de carbono que automáticamente canalizan aire fresco, un jardín de lluvia, un patio para robots y drones, y dispositivos experimentales de superdetección llamados Mites. Montados en más de 300 ubicaciones en todo el edificio, estos dispositivos del tamaño de un interruptor de luz pueden medir 12 tipos de datos, incluidos el movimiento y el sonido. Los ácaros se incrustaron en las paredes y los techos de los pasillos, en las salas de conferencias y en las oficinas privadas, todo como parte de un proyecto de investigación sobre edificios inteligentes dirigido por el profesor de la CMU Yuvraj Agarwal y el estudiante de doctorado Sudershan Boovaraghavan e incluido otro profesor, Chris Harrison.

"El objetivo general de este proyecto", explicó Agarwal en una reunión del ayuntamiento de abril de 2021, es "construir una infraestructura IoT [Internet de las cosas] segura, segura y fácil de usar", refiriéndose a una red de sensores. objetos físicos equipados como bombillas inteligentes, termostatos y televisores que pueden conectarse a Internet y compartir información de forma inalámbrica.

No todos estaban contentos de encontrar el edificio lleno de ácaros. Algunos en el departamento sintieron que el proyecto violaba su privacidad en lugar de protegerla. En particular, los estudiantes y profesores cuya investigación se centró más en los impactos sociales de la tecnología sintieron que el micrófono, el sensor de infrarrojos, el termómetro y otros seis sensores del dispositivo, que juntos podían al menos detectar cuando un espacio estaba ocupado, los sometería a vigilancia experimental. sin su consentimiento.

"No está bien instalarlos de manera predeterminada", dice David Widder, un candidato a doctorado de último año en ingeniería de software, quien se convirtió en una de las voces más fuertes del departamento contra los ácaros. "No quiero vivir en un mundo en el que el empleador de uno instale sensores en red en su oficina sin preguntarle primero, sea un modelo a seguir para otras organizaciones".

Todos los usuarios de tecnología enfrentan preguntas similares sobre cómo y dónde trazar una línea personal cuando se trata de privacidad. Pero fuera de nuestros propios hogares (ya veces dentro de ellos), cada vez nos falta más autonomía sobre estas decisiones. En cambio, nuestra privacidad está determinada por las elecciones de las personas que nos rodean. Entrar a la casa de un amigo, a una tienda minorista o simplemente por una calle pública nos deja expuestos a muchos tipos diferentes de vigilancia sobre los cuales tenemos poco control.

En un contexto de creciente vigilancia en el lugar de trabajo, prolífica recopilación de datos, aumento de los riesgos de ciberseguridad, crecientes preocupaciones sobre la privacidad y las tecnologías inteligentes, y dinámicas de poder tensas en torno a la libertad de expresión en las instituciones académicas, Mites se convirtió en un pararrayos dentro del Instituto de Investigación de Software.

Las voces de ambos lados del problema sabían que el proyecto Mites podría tener un impacto mucho más allá de TCS Hall. Después de todo, Carnegie Mellon es una universidad de investigación de primer nivel en ciencia, tecnología e ingeniería, y la forma en que maneja esta investigación puede influir en cómo se implementarán los sensores en otros lugares. "Cuando hacemos algo, las empresas... [y] otras universidades escuchan", dice Widder.

De hecho, los investigadores de Mites esperaban que el proceso por el que habían pasado "pudiera ser un modelo para universidades más pequeñas" que buscaban hacer una investigación similar, dice Agarwal, profesor asociado en informática que ha estado desarrollando y probando el aprendizaje automático para dispositivos IoT. durante una década.

Pero la pregunta crucial es qué sucede si, o cuando, los supersensores se gradúan de Carnegie Mellon, se comercializan y se abren paso en los edificios inteligentes de todo el mundo.

El conflicto es, en esencia, un intento de uno de los departamentos de informática más importantes del mundo para litigar cuestiones espinosas sobre privacidad, anonimato y consentimiento. Pero se ha deteriorado de una discusión académica a una amarga disputa, con acusaciones de intimidación, vandalismo, desinformación y represalias en el lugar de trabajo. Como en tantas conversaciones sobre privacidad, las dos partes han estado hablando entre sí, con concepciones aparentemente incompatibles de lo que significa la privacidad y cuándo se debe requerir el consentimiento.

En última instancia, si las personas cuya investigación establece la agenda para las opciones tecnológicas no pueden llegar a un consenso sobre la privacidad, ¿dónde nos deja eso al resto de nosotros?

El proyecto Mites se basó en dos premisas básicas: primero, que los edificios en todas partes ya están recopilando datos sin protecciones de privacidad estándar y continuarán haciéndolo. Y segundo, que la mejor solución es construir mejores sensores: más útiles, más eficientes, más seguros y con mejores intenciones.

En otras palabras, los ácaros.

"Lo que realmente necesitamos", explica Agarwal, es "construir sistemas de seguridad, privacidad y seguridad primero... asegurarnos de que los usuarios confíen en estos sistemas y entiendan la clara propuesta de valor".

"Preferiría que [nosotros] lo lideráramos que Google o ExxonMobil", agrega Harrison, profesor asociado de interacción humano-computadora y colaborador de la facultad en el proyecto, refiriéndose a la investigación de sensores. (Google financió las primeras iteraciones de la investigación que condujo a Mites, mientras que JPMorgan Chase está brindando un "apoyo generoso para la investigación de edificios inteligentes en TCS Hall", como se indica en las placas colgadas alrededor del edificio).

Los ácaros, el nombre se refiere tanto a los dispositivos individuales como a la plataforma general, son sensores todo en uno compatibles con una pila de hardware y procesamiento de datos en el dispositivo. Si bien Agarwal dice que no recibieron el nombre de la pequeña criatura, el logotipo en el sitio web del proyecto muestra un error.

Según los investigadores, los ácaros representan una mejora significativa con respecto a los sensores de edificios actuales, que normalmente tienen un propósito singular, como detectores de movimiento o termómetros. Además, muchos dispositivos inteligentes hoy en día a menudo solo funcionan de forma aislada o con plataformas específicas como Nest de Google o Alexa de Amazon; no pueden interactuar entre sí.

Además, los sistemas IoT actuales ofrecen poca transparencia sobre exactamente qué datos se recopilan, cómo se transmiten y qué protocolos de seguridad existen, mientras que se equivocan en el lado de la recopilación excesiva.

Los investigadores esperaban que Mites abordara estas deficiencias y facilitara nuevos usos y aplicaciones para los sensores de IoT. Por ejemplo, los micrófonos en Mites podrían ayudar a los estudiantes a encontrar una habitación tranquila para estudiar, dijeron, y Agarwal sugirió en la reunión del ayuntamiento en abril de 2021 que el sensor de movimiento podría decirle a un ocupante de la oficina si el personal de limpieza realmente estaba limpiando las oficinas cada noche. (Desde entonces, los investigadores dijeron que este era un caso de uso sugerido específico para los protocolos covid-19 y que podría ayudar al personal de limpieza a concentrarse en áreas de alto tráfico, pero se han alejado de la posibilidad).

Los investigadores también creen que, a largo plazo, los ácaros, y los sensores de construcción en general, son clave para la sostenibilidad ambiental. También ven otros casos de uso más ambiciosos. Un artículo universitario describe este escenario: En 2050, una mujer comienza a experimentar pérdida de memoria. Su médico sugiere instalar Mites alrededor de su casa para "conectarse a... parlantes inteligentes y decirle cuándo lavó su ropa y cuándo dejó el horno encendido" o para evaluar su sueño al notar el sonido de las sábanas moviéndose o los viajes nocturnos al baño. "Son útiles para Emily, pero aún más útiles para su médico", afirma el artículo.

Como dispositivos multipropósito integrados con una plataforma, se suponía que Mites resolvía todo tipo de problemas sin excederse en la recopilación de datos. Cada dispositivo contiene nueve sensores que pueden captar todo tipo de información ambiental sobre una habitación, incluidos sonido, luz, vibraciones, movimiento, temperatura y humedad: una docena de tipos de datos diferentes en total. Para proteger la privacidad, no captura videos ni fotos.

Los investigadores de CMU no son los primeros en intentar un proyecto de este tipo. Una iniciativa de investigación de IoT del Instituto de Tecnología de Massachusetts, también llamada MITes, diseñó sensores portátiles para recopilar datos ambientales como el movimiento y la temperatura. Funcionó de 2005 a 2016, principalmente como parte de PlaceLab, un laboratorio experimental inspirado en un apartamento en el que voluntarios cuidadosamente examinados dieron su consentimiento para vivir y estudiar sus interacciones. Los proyectos MIT y CMU no están relacionados. (MIT Technology Review está financiado en parte por MIT, pero mantiene la independencia editorial).

Los investigadores de Carnegie Mellon dicen que el sistema Mites extrae solo algunos de los datos que recopilan los dispositivos, a través de un proceso técnico llamado "caracterización". Esto debería hacer que sea más difícil rastrear, digamos, una voz hasta un individuo.

El aprendizaje automático, que, a través de una técnica llamada computación perimetral, eventualmente se llevaría a cabo en el dispositivo en lugar de en un servidor centralizado, luego reconoce los datos entrantes como resultado de ciertas actividades. La esperanza es que un conjunto particular de vibraciones pueda traducirse en tiempo real, por ejemplo, en un tren que pasa.

Los investigadores dicen que la caracterización y otros tipos de computación perimetral harán que Mites proteja más la privacidad, ya que estas tecnologías minimizan la cantidad de datos que deben enviarse, procesarse y almacenarse en la nube. (Por el momento, el aprendizaje automático todavía se lleva a cabo en un servidor separado en el campus).

"Nuestra visión es que hay un sensor para gobernarlos a todos, si has visto El señor de los anillos. La idea es que en lugar de esta colección heterogénea de sensores, tienes un sensor que está en un tamaño de dos pulgadas por dos pulgadas. paquete", explicó Agarwal en el ayuntamiento de abril de 2021, según una grabación de la reunión compartida con MIT Technology Review.

Pero si la respuesta del departamento es una indicación, tal vez un anillo de poder que permitía a su portador dominar a los demás no era la mejor analogía.

A menos que los esté buscando, es posible que no sepa que el TCS Hall, amplio y luminoso, en el borde occidental del campus de Pittsburgh de Carnegie Mellon, está cubierto de dispositivos Mites: 314 de ellos en febrero de 2023, según Agarwal.

Pero mire de cerca, y están ahí: pequeñas placas de circuito cuadradas recubiertas de plástico y montadas en placas de interruptores de luz estándar. Están situados dentro de las entradas de las salas comunes y oficinas, junto a los termostatos y controles de iluminación, y en los techos.

De hecho, los únicos lugares en TCS Hall que están libres de ácaros son los baños y el quinto piso, donde Tata Consultancy Services, la multinacional india de TI que donó $35 millones para financiar el edificio que lleva su nombre, lleva a cabo una investigación y centro de innovación. (Un portavoz dijo: "TCS no está involucrado en el proyecto Mites").

Widder, cuya tesis doctoral se centra en cómo ayudar a los desarrolladores de IA a pensar en su responsabilidad por el daño que su trabajo podría causar, recuerda haber descubierto los sensores Mites en su oficina en algún momento del otoño de 2020. Y una vez que los vio, no pudo. no ver los dispositivos parpadeantes montados en su pared y techo, o los dos en el techo del pasillo justo afuera de su puerta.

Widder tampoco supo de inmediato cómo apagar los dispositivos; no tenían un interruptor de encendido y apagado. (En última instancia, sus intentos de forzar esa opción de exclusión amenazarían con descarrilar su carrera).

Este fue un problema para el ético tecnológico en ciernes. El trabajo académico de Widder explora cómo los desarrolladores de software piensan sobre las implicaciones éticas de los productos que construyen; está particularmente interesado en ayudar a los informáticos a comprender las consecuencias sociales de la tecnología. Y así, Mites era una preocupación tanto profesional como personal. Los mismos problemas de vigilancia y consentimiento informado con los que ayudó a lidiar a los informáticos se habían abierto camino hasta su oficina.

CMU no es la única universidad que prueba nuevas tecnologías en el campus antes de enviarlas al resto del mundo. Los campus universitarios han sido durante mucho tiempo un semillero de investigación, con políticas a veces cuestionables sobre el consentimiento. Timnit Gebru, especialista en ética tecnológica y fundador del Instituto de Investigación de IA Distribuida, cita las primeras investigaciones sobre reconocimiento facial que se basaron en datos de vigilancia recopilados por investigadores académicos. "Muchas de las prácticas de datos problemáticas que vemos en la industria se realizaron primero en el mundo de la investigación y luego se transportaron a la industria", dice.

Fue a través de esa lente que Widder vio a Mites. "Creo que la recopilación de datos no consensuados para la investigación... generalmente no es ético. Los sensores omnipresentes instalados en espacios públicos y privados hacen que la vigilancia cada vez más generalizada sea normal, y ese es un futuro que no quiero facilitar", dice.

Él expresó sus preocupaciones en el canal Slack del departamento, en correos electrónicos y en conversaciones con otros estudiantes y profesores, y descubrió que no estaba solo. Muchas otras personas se sorprendieron al conocer el proyecto, dice, y muchos compartieron sus preguntas sobre para qué se usarían los datos del sensor y cuándo comenzaría la recopilación.

"Todavía no he estado en TCS Hall, pero siento lo mismo... sobre los ácaros", escribió otro miembro del departamento en Slack en abril de 2021. "Sé que me sentiría más cómodo si pudiera desconectar el que está en mi oficina ."

Los investigadores dicen que siguieron los procesos requeridos por la universidad para la recopilación de datos y recibieron la aprobación después de una revisión por parte de su junta de revisión institucional (IRB) y abogados. El IRB, que supervisa la investigación en la que participan sujetos humanos, según lo exige la regulación federal de los EE. UU., proporcionó comentarios sobre la propuesta de investigación de Mites antes de aprobar finalmente el proyecto en marzo. De acuerdo con las preguntas frecuentes públicas sobre el proyecto, la junta determinó que la simple instalación de Mites y la recopilación de datos sobre el medio ambiente no requerían la aprobación del IRB ni el consentimiento previo de los ocupantes del TCS Hall, con la excepción de la recopilación de datos de audio en oficinas privadas, que sería basado en un proceso de consentimiento "opt-in". Se requeriría la aprobación y el consentimiento para las etapas posteriores del proyecto, cuando los ocupantes de la oficina usarían una aplicación móvil que les permitiera interactuar con los datos de Mites.

Los investigadores de Mites también dirigieron el proyecto por parte del consejo general de la universidad para revisar si el uso de micrófonos en los sensores violaba la ley estatal de Pensilvania, que exige el consentimiento de dos partes en la grabación de audio. "Hemos tenido extensas conversaciones con la CMU-Office of the General Counsel y han verificado que no estamos violando la ley de escuchas telefónicas de la Autoridad Palestina", se lee en las preguntas frecuentes del proyecto.

Las empresas de aspiradoras robóticas dicen que sus imágenes están seguras, pero una cadena de suministro global en expansión para los datos de nuestros dispositivos genera riesgos.

En general, el Instituto de Investigación de Software, que pasó a llamarse Software y Sistemas Sociales, se dividió. Algunas de sus voces más poderosas, incluido el director del departamento (y coasesor de tesis de Widder), James Herbsleb, alentaron a los miembros del departamento a apoyar la investigación. "Quiero repetir que este es un proyecto muy importante... ¡si quieres evitar un futuro donde la vigilancia sea rutinaria e inevitable!" escribió en un correo electrónico poco después del ayuntamiento.

"El paso inicial fue... ver cómo se comportan estas cosas", dice Herbsleb, comparando los sensores Mites con detectores de movimiento que la gente podría querer probar. "Es simplemente, '¿Qué tan bien funciona como detector de movimiento?' Y, ya sabes, a nadie se le pide su consentimiento. Es solo probar una pieza de hardware".

Por supuesto, las capacidades avanzadas del sistema significaron que los ácaros no eran solo detectores de movimiento, y otros miembros del departamento vieron las cosas de manera diferente. "Es mucho pedirle a la gente que tenga un sensor con un micrófono funcionando en su oficina", dice Jonathan Aldrich, profesor de informática, aunque "confío en mis compañeros de trabajo como un principio general y creo que merecen esa confianza". ." Y agrega: "Confiar en alguien para que sea un buen colega no es lo mismo que darle la llave de tu oficina o que instale algo en tu oficina que pueda grabar cosas privadas". Permitir que otra persona controle un micrófono en su oficina, dice, es "muy parecido a darle una llave a otra persona".

A medida que se desarrolló el debate durante el año siguiente, enfrentó a los estudiantes contra sus asesores y héroes académicos también, aunque muchos se opusieron en privado, temiendo las consecuencias de hablar en contra de un proyecto bien financiado y respaldado por la universidad.

En la grabación de video del ayuntamiento obtenida por MIT Technology Review, los asistentes preguntaron cómo planeaban los investigadores notificar a los ocupantes del edificio y visitantes sobre la recopilación de datos. A Jessica Colnago, entonces estudiante de doctorado, le preocupaba cómo la mera presencia de los ácaros afectaría los estudios que estaba realizando sobre la privacidad. "Como investigadora de privacidad, me sentiría moralmente obligada a contarle a mi participante sobre la tecnología en la sala", dijo en la reunión. Si bien "todos somos colegas aquí" y "confiamos unos en otros", agregó, "es posible que los participantes externos no lo hagan".

Los asistentes también querían saber si los sensores podían rastrear la frecuencia con la que ingresaban a sus oficinas y a qué hora. "Estoy en la oficina [X]", dijo Widder. "El Mite sabe que está grabando algo de la oficina [X] y, por lo tanto, me identifica como ocupante de la oficina". Agarwal respondió que ninguno de los análisis de los datos sin procesar intentaría relacionar esos datos con personas específicas.

En un momento, Agarwal también mencionó que había aceptado la idea de usar sensores Mites para monitorear al personal de limpieza, lo que algunas personas en la audiencia interpretaron como que facilitaba la vigilancia algorítmica o, al menos, demostraba claramente la dinámica de poder desigual. jugando.

Un sistema de sensores que podría usarse para vigilar a los trabajadores preocupó a Jay Aronson, profesor de ciencia, tecnología y sociedad en el departamento de historia y fundador del Centro para la Ciencia de los Derechos Humanos, quien se enteró de Mites después de que Widder presentara el proyecto a su atención. El personal de la universidad, como los trabajadores administrativos y de las instalaciones, es más probable que se vea afectado negativamente y es menos probable que obtenga algún beneficio, dijo Aronson. "Los daños y los beneficios no se distribuyen por igual", agregó.

Del mismo modo, los estudiantes y los profesores no titulares aparentemente tenían muy poco que ganar directamente con el proyecto Mites y enfrentaron posibles repercusiones tanto de la recopilación de datos en sí como, temían, de hablar en contra. Hablamos con cinco estudiantes además de Widder que se sintieron incómodos tanto con el proyecto de investigación como con expresar sus preocupaciones.

Uno de esos estudiantes era parte de una pequeña cohorte de 45 estudiantes universitarios que pasaron un tiempo en TCS Hall en 2021 como parte de un programa de verano destinado a presentarles el departamento mientras consideraban postularse para programas de posgrado. La reunión del ayuntamiento fue la primera vez que algunos de ellos aprendieron sobre los ácaros. Algunos se molestaron, preocupados de que estuvieran siendo capturados en video o grabados.

Pero los ácaros en realidad no estaban grabando ningún video. Y cualquier audio capturado por los micrófonos fue codificado para que no pudiera ser reconstruido.

De hecho, los investigadores dicen que los ácaros no estaban, y aún no están, capturando ningún dato útil en absoluto.

Para los investigadores, esta "desinformación" sobre los datos que se recopilan, como la describió Boovaraghavan en una entrevista con MIT Technology Review, fue una de las mayores frustraciones del proyecto.

Pero si el ayuntamiento estaba destinado a aclarar detalles sobre el proyecto, en cambio exacerbó parte de esa confusión. Aunque un hilo de correo electrónico interdepartamental anterior había dejado en claro que los sensores aún no estaban recopilando datos, eso se perdió en la tensa discusión. En algunos puntos, los investigadores indicaron que no se recopilaron ni se recopilarían datos sin la aprobación del IRB (que se había recibido el mes anterior), y en otros puntos dijeron que los sensores solo recopilaban "datos de telemetría" (básicamente para asegurarse de que estaban encendido y conectado) y que el micrófono "está apagado en todas las oficinas privadas". (En una declaración enviada por correo electrónico a MIT Technology Review, Boovaraghavan aclaró que "los datos se capturaron en los espacios públicos o privados de los equipos de investigación, pero nunca en los espacios de otros ocupantes").

Para algunos que no estaban contentos, exactamente qué datos estaban capturando los sensores en ese momento no venía al caso. No importaba que el proyecto aún no estuviera completamente operativo. En cambio, la preocupación era que sensores más poderosos que cualquier cosa disponible anteriormente se habían instalado en las oficinas sin consentimiento. Claro, los ácaros no estaban recopilando datos en ese momento. Pero en alguna fecha aún no especificada por los investigadores, podrían serlo. Y es posible que los afectados no tengan voz.

Widder dice que el ayuntamiento, y las reuniones individuales de seguimiento con los investigadores, en realidad lo hicieron "más preocupado". Agarró su destornillador Phillips. Desenchufó los Mites en su oficina, desatornilló los sensores de la pared y el techo y quitó los cables de ethernet de sus enchufes.

Puso su Mite en una caja de plexiglás en su estante y envió un correo electrónico al equipo de investigación, a sus asesores y al liderazgo del departamento informándoles que había desconectado los sensores, los había mantenido intactos y quería devolverlos. Con otros en el departamento, escribió una carta abierta anónima que detallaba más de sus preocupaciones.

El conflicto en TCS Hall ilustra lo que hace que la privacidad sea tan difícil de abordar: es subjetiva. No existe un estándar acordado sobre lo que significa privacidad o cuándo se debe requerir exactamente el consentimiento para recopilar datos personales, o incluso qué cuenta como datos personales. Las personas tienen diferentes concepciones de lo que es aceptable. El debate de Mites resaltó las discrepancias entre los enfoques técnicos para recopilar datos de una manera más preservadora de la privacidad y el "lado filosófico y de ciencias sociales más amplio de la privacidad", como Kyle Jones, profesor de biblioteconomía y ciencias de la información en la Universidad de Indiana que estudia la privacidad de los estudiantes. en educación superior, dice.

Algunas cuestiones clave en los debates más amplios sobre la privacidad fueron particularmente potentes durante la disputa de Mites. ¿Qué significa el consentimiento informado y en qué circunstancias es necesario? ¿Qué datos pueden realmente identificar a alguien, incluso si no cumplen con las definiciones más comunes de "datos de identificación personal"? ¿Y es adecuado construir tecnología y procesos de protección de la privacidad si no se comunican con suficiente claridad a los usuarios?

Para los investigadores, estas preguntas tenían una respuesta directa: "Mi privacidad no puede ser invadida si, literalmente, no se recopilan datos sobre mí", dice Harrison.

Aun así, dicen los investigadores, existían mecanismos de consentimiento. "La capacidad de apagar el sensor solicitándolo se incorporó desde el principio. De manera similar, la capacidad de encender/apagar cualquier sensor individual en cualquier placa de Mites también se incorporó desde el principio", escribieron en un correo electrónico. .

Los detalles sobre la nueva Administración Nacional de Datos de China aún están por llegar, incluido el control que tendrá sobre la seguridad y la privacidad de los datos.

Pero aunque la funcionalidad pudo haber existido, no se comunicó bien al departamento, como mostró un intercambio interno de Slack. "El único correo electrónico general que se envió no proporcionó un procedimiento para apagarlos", señaló Aldrich.

Los estudiantes con los que hablamos destacaron la realidad de que exigirles que opten por no participar en un proyecto de investigación de alto perfil, en lugar de darles la oportunidad de participar, no tiene en cuenta la dinámica de poder de la universidad. En un correo electrónico a MIT Technology Review, Widder dijo que no cree que la opción de optar por no participar a través de una solicitud por correo electrónico fuera válida, porque muchos ocupantes del edificio no lo sabían y porque la exclusión identificaría a cualquiera que esencialmente no estuviera de acuerdo con la investigación.

Aldrich también estaba preocupado por la tecnología en sí.

"¿Puedes... reconstruir el habla a partir de lo que han hecho? Hay suficientes fragmentos para que sea teóricamente posible", dice. "El [equipo de investigación] piensa que es imposible, pero no tenemos pruebas de esto, ¿verdad?"

Pero una segunda preocupación era social: Aldrich dice que no le importó el proyecto hasta que un colega fuera del departamento pidió no reunirse en TCS Hall debido a los sensores. Eso le hizo cambiar de opinión. "¿Realmente quiero tener algo en mi oficina que impida que un colega venga y se reúna conmigo en mi oficina? La respuesta fue claramente no. Sin embargo, me sentí al respecto, no quería que fuera una disuasorio para que otra persona se reúna conmigo en mi oficina, o para [hacerlos] sentirse incómodos", dice.

El equipo de Mites colocó letreros alrededor del edificio, en pasillos, áreas comunes, escaleras y algunas habitaciones, explicando qué eran los dispositivos y qué recolectarían. Eventualmente, los investigadores agregaron un código QR vinculado al documento de preguntas frecuentes de 20 páginas del proyecto. Los letreros eran pequeños papeles plastificados tamaño carta que, según algunos visitantes, eran fáciles de pasar por alto y difíciles de entender.

"Cuando vi eso, estaba pensando, wow, esa es una descripción muy pequeña de lo que está pasando", señaló uno de esos visitantes, Se A Kim, un estudiante universitario que realizó varias visitas a TCS Hall en la primavera de 2022 para un tarea de la escuela de diseño para explorar cómo hacer que los visitantes tomen conciencia de la recopilación de datos en los espacios públicos de TCS. Cuando entrevistó a varios de ellos, se sorprendió de cuántos aún desconocían los sensores.

Una preocupación repetida por los opositores de Mites es que incluso si la implementación actual de Mites no está configurada para recopilar los datos más confidenciales, como fotos o videos, y no está destinada a identificar a las personas, esto dice poco sobre qué datos podría recopilar, o qué esos datos podrían combinarse con... en el futuro. Los investigadores de privacidad han demostrado repetidamente que los datos agregados y anonimizados se pueden desanonimizar fácilmente.

Este suele ser el caso con conjuntos de datos mucho más grandes, recopilados, por ejemplo, por teléfonos inteligentes. Es posible que las aplicaciones y los sitios web no tengan el número de teléfono o el nombre del propietario del teléfono, pero a menudo tienen acceso a datos de ubicación que facilitan la ingeniería inversa de esos detalles de identificación. (Desde entonces, los investigadores de Mites han cambiado la forma en que manejan la recopilación de datos en oficinas privadas al agrupar varias oficinas. Esto hace que sea más difícil determinar el comportamiento de los ocupantes individuales).

Más allá de la posibilidad de reidentificación, quién exactamente puede acceder a los datos de un usuario a menudo se desconoce con los dispositivos IoT, ya sea por accidente o por el diseño del sistema. Abundan los incidentes en los que los dispositivos domésticos inteligentes de los consumidores, desde monitores para bebés hasta altavoces Google Home y aspiradoras robóticas, han sido pirateados o sus datos se han compartido sin el conocimiento o consentimiento de sus usuarios.

El equipo de investigación de Mites estaba al tanto de estos conocidos problemas de privacidad y violaciones de seguridad, pero a diferencia de sus críticos, quienes vieron estos precedentes como una razón para no confiar en la instalación de dispositivos IoT aún más poderosos, Agarwal, Boovaraghavan y Harrison los vieron como motivación para crear algo mejor. "Alexa y Google Homes son tecnologías realmente interesantes, pero algunas personas se niegan a tenerlas porque esa confianza está rota", dice Harrison. Sintió que el trabajo de los investigadores era descubrir cómo construir un nuevo dispositivo que fuera confiable desde el principio.

A diferencia de los dispositivos anteriores, el suyo protegería la privacidad.

En la primavera de 2021, Widder recibió una carta en la que se le informaba que estaba siendo investigado por presunta conducta indebida por manipular el equipo informático de la universidad. También le advirtió que la forma en que había actuado podría verse como una intimidación.

Los hilos de correo electrónico de todo el departamento, compartidos con MIT Technology Review, insinúan cuán personal se había vuelto el debate de Mites y cómo Widder, a los ojos de algunos de sus colegas, se había convertido en el malo. "La gente que saca los sensores por su cuenta (¿cuál es el sentido de estas conversaciones profundas si vamos a tomar el asunto literalmente en nuestras manos?) Y que otros publiquen en las redes sociales *no es ético*", escribió un profesor. (Aunque el profesor no nombró a Widder, era ampliamente conocido que había hecho ambas cosas).

"Creo que algunas personas se sintieron acosadas aquí, y me lo tomo muy en serio", dice Widder, aunque también se pregunta: "¿Qué dice sobre nuestro campo si no estamos acostumbrados a tener este tipo de debates y... cuando hacen, o no son tomados en serio o... recibidos como intimidación?" (Los investigadores no respondieron a las preguntas sobre las acusaciones de intimidación).

La acción disciplinaria se retiró después de que Widder volviera a enchufar los sensores y se disculpara, pero para Aldrich, "la carta funciona como una forma de castigar a David por hablar sobre un tema que es inconveniente para la facultad, y para silenciar las críticas de él y de otros". en el futuro", como escribió en una respuesta oficial a la revisión doctoral de Widder.

Herbsleb, presidente del departamento y asesor de Widder, se negó a comentar sobre lo que llamó un "documento interno privado", citando la privacidad de los estudiantes.

Si bien Widder cree que fue castigado por sus críticas, los investigadores ya habían tomado en cuenta algunas de esas críticas. Por ejemplo, los investigadores se ofrecieron a permitir que los ocupantes del edificio apagaran los sensores de ácaros en sus oficinas solicitando su exclusión por correo electrónico. Pero esto siguió siendo imposible en los espacios públicos, en parte porque "no hay forma de que sepamos quién está en el espacio público", nos dijeron los investigadores.

Para febrero de 2023, los ocupantes de nueve de las 110 oficinas habían escrito a los investigadores para que deshabilitaran los sensores Mites en sus propias oficinas, incluidos Widder y Aldrich.

Los investigadores señalan este pequeño número como prueba de que la mayoría de las personas están de acuerdo con los ácaros. Pero Widder no está de acuerdo; todo lo que prueba, dice, es que la gente vio cómo se tomaron represalias contra él por quitarse sus propios sensores Mites y se les disuadió de pedir que apagaran los suyos. "Ya sea que esto tuviera o no la intención de ser coercitivo, creo que tiene ese efecto", dice.

En un día lluvioso de octubre pasado, en una sala de conferencias de vidrio en el cuarto piso de TCS Hall, el equipo de investigación de Mites argumentó que las tensiones latentes sobre su proyecto (los correos electrónicos acalorados y a veces personales de todos los departamentos, los intercambios de Slack y los ayuntamientos) eran una parte normal del proceso de investigación.

"Puedes ver esta discordia... a través de una lente negativa; nosotros no", dijo Harrison.

"Creo que es genial que hayamos podido fomentar un proyecto en el que las personas pueden legítimamente... plantear problemas con él... Eso es algo bueno", agregó.

"Espero que nos convirtamos en el punto culminante de cómo hacer esta [investigación de sensores] de una manera muy deliberada", dijo Agarwal.

Otros miembros de la facultad, incluso aquellos que se han convertido en defensores incondicionales del proyecto Mites, como Lorrie Cranor, profesora de ingeniería de privacidad y reconocida experta en privacidad, dicen que las cosas podrían haberse hecho de otra manera. "En retrospectiva, debería haber habido más comunicación por adelantado", reconoce Cranor, y esas conversaciones deberían haber sido continuas para que los estudiantes actuales pudieran ser parte de ellas. Debido a la rotación natural en la academia, dice, muchos de ellos nunca habían tenido la oportunidad de participar en estas discusiones, a pesar de que los profesores veteranos fueron informados sobre el proyecto hace años.

También tiene sugerencias sobre cómo podría mejorar el proyecto. "Tal vez necesitemos un sensor de ácaros en un área pública que esté conectado a una pantalla que le brinde una transmisión en vivo, y puede saltar y silbar y hacer todo tipo de cosas frente a él y ver qué datos están llegando, " ella dice. O deje que las personas descarguen los datos y descubran: "¿Qué se puede reconstruir a partir de esto?... Si es posible aplicar ingeniería inversa y descubrir algo, probablemente alguien aquí lo hará". Y si no, la gente podría estar más inclinada a confiar en el proyecto.

Los dispositivos también podrían tener un interruptor de encendido y apagado, reconoce Herbsleb, el jefe del departamento: "Creo que si esas preocupaciones se hubieran reconocido antes, estoy seguro de que Yuvraj [Agarwal] lo habría diseñado de esa manera". (Widder todavía cree que los dispositivos deberían tener un interruptor de apagado).

Pero aun así, para los críticos, estas mejoras reales y sugeridas no cambian el hecho de que "la conversación pública está ocurriendo debido a una controversia, y no antes", dice Aronson.

Las mejoras en la investigación tampoco eliminan lo que experimentó Widder. "Cuando planteé mis inquietudes, especialmente al principio", dice, "me trataron como un buscador de atención... como un matón, un vándalo. ¿Y si ahora la gente sugiere que esto ha mejorado el proceso?" Hace una pausa en la frustración. "Bueno."

Además, más allá de las mejoras realizadas en el proceso de investigación en CMU, todavía queda la cuestión de cómo se podría utilizar la tecnología en el mundo real. Esa versión comercializada de la tecnología podría tener "cámaras de mayor calidad y micrófonos de mayor calidad y más sensores y... más información absorbida", señala Aronson. Antes de que algo como Mites se lance al público, "necesitamos tener esta gran conversación" sobre si es necesario o deseado, dice.

"El panorama general es, ¿podemos confiar en que los empleadores o las empresas que producen estos dispositivos no los utilizarán para espiarnos?". agrega Aldrich. "Algunos empleadores han demostrado que no merecen tanta confianza".

Los investigadores, sin embargo, creen que preocuparse por las aplicaciones comerciales puede ser prematuro. "Esta es una investigación, no un producto comercial", escribieron en un comunicado enviado por correo electrónico. "Llevar a cabo este tipo de investigación en un entorno altamente controlado nos permite aprender y avanzar en el descubrimiento y la innovación. El proyecto Mites aún se encuentra en sus primeras fases".

Pero hay un problema con ese encuadre, dice Aronson. "La ubicación experimental no es un laboratorio o una placa de Petri. No es una simulación. Es un edificio al que los seres humanos reales entran todos los días y viven sus vidas".

Widder, el crítico más vocal del proyecto, puede imaginar un escenario alternativo en el que tal vez podría haberse sentido diferente acerca de Mites, si hubiera sido más participativo y "colaborativo". Tal vez, sugiere, los investigadores podrían haber dejado los dispositivos, junto con una introducción y un folleto de instrucciones, en los escritorios de los miembros del departamento para que pudieran decidir si querían participar. Eso habría asegurado que la investigación se realizó "basada en el principio de consentimiento de inclusión voluntaria incluso para tenerlos en la oficina en primer lugar". En otras palabras, no cree que las características técnicas como el cifrado y la computación perimetral puedan reemplazar el consentimiento significativo.

Sin embargo, incluso este tipo de ajustes no cambiarían fundamentalmente cómo se siente Widder. "No estoy dispuesto a aceptar la premisa de... un futuro en el que haya todos estos tipos de sensores en todas partes", dice.

Los 314 ácaros que quedan en las paredes y techos de TCS Hall, en este punto, es poco probable que sean arrancados. Pero si bien es posible que la lucha por este proyecto haya terminado, los debates sobre la privacidad apenas comienzan.

Actualización: esta historia se ha actualizado con detalles sobre el ayuntamiento de abril.

"De repente cambié mi punto de vista sobre si estas cosas van a ser más inteligentes que nosotros".

El atractivo de la herramienta para el lugar de trabajo se extiende mucho más allá de la organización de proyectos de trabajo. Muchos usuarios encuentran que es igual de útil para administrar su tiempo libre.

Históricamente, los esfuerzos para aprender a codificar han brindado oportunidades para unos pocos, pero los nuevos esfuerzos apuntan a ser inclusivos.

Hinton hablará en EmTech Digital el miércoles.

Descubra ofertas especiales, noticias destacadas, próximos eventos y más.

¡Gracias por enviar su correo electrónico!

Parece que algo salió mal.

Estamos teniendo problemas para guardar sus preferencias. Intente actualizar esta página y actualícelas una vez más. Si continúa recibiendo este mensaje, comuníquese con nosotros en [email protected] con una lista de boletines que le gustaría recibir.