Apple, Microsoft y Google están anunciando una nueva era de lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Los dispositivos, dicen, automatizarán tareas como editar fotografías y desearle un feliz cumpleaños a un amigo.
Pero para que eso funcione, estas empresas necesitan algo de usted: más datos.
En este nuevo paradigma, su computadora con Windows tomará una captura de pantalla de todo lo que haga cada pocos segundos. Un iPhone reunirá información de muchas aplicaciones que utilices. Y un teléfono Android puede escuchar una llamada en tiempo real para alertarlo sobre una estafa.
¿Está dispuesto a compartir esta información?
Este cambio tiene implicaciones importantes para nuestra privacidad. Para brindar los nuevos servicios personalizados, las empresas y sus dispositivos necesitan un acceso más persistente e íntimo a nuestros datos que antes. En el pasado, la forma en que usábamos aplicaciones y extraíamos archivos y fotos en teléfonos y computadoras estaba relativamente aislada. La IA necesita una visión general para conectar los puntos entre lo que hacemos en aplicaciones, sitios web y comunicaciones, dicen los expertos en seguridad.
“¿Me siento seguro al brindar esta información a esta empresa?” Cliff Steinhauer, director de la Alianza Nacional de Ciberseguridad, una organización sin fines de lucro que se centra en la ciberseguridad, habló sobre las estrategias de IA de las empresas.
Todo esto sucede porque ChatGPT de OpenAI revolucionó la industria tecnológica hace casi dos años. Desde entonces, Apple, Google, Microsoft y otros han revisado sus estrategias de productos, invirtiendo miles de millones en nuevos servicios bajo el término general de IA. Están convencidos de que este nuevo tipo de interfaz informática, una que estudia constantemente lo que usted está haciendo para ofrecer asistencia, se convertirá en indispensable.
El mayor riesgo potencial de seguridad con este cambio surge de un cambio sutil que se produce en la forma en que funcionan nuestros nuevos dispositivos, dicen los expertos. Porque La IA puede automatizar acciones complejas, como eliminar objetos no deseados de una foto. – a veces requiere más potencia computacional de la que nuestros teléfonos pueden manejar. Eso significa que es posible que una mayor parte de nuestros datos personales tengan que salir de nuestros teléfonos para ser tratados en otros lugares.
La información se transmite a la llamada nube, una red de servidores que procesan las solicitudes. Una vez que la información llega a la nube, otras personas pueden verla, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y aunque algunos de nuestros datos siempre se han almacenado en la nube, nuestros datos más personales e íntimos que alguna vez estuvieron solo para nuestros ojos (fotos, mensajes y correos electrónicos) ahora pueden ser conectados y analizados por una empresa en sus servidores.
Las empresas de tecnología dicen que han hecho todo lo posible para proteger los datos de las personas.
Por ahora, es importante comprender qué sucederá con nuestra información cuando usemos herramientas de inteligencia artificial, por lo que obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Planeo esperar y ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.
Esto es lo que debe saber.
Inteligencia de Apple
Apple anunció recientemente Apple Intelligence, un conjunto de servicios de inteligencia artificial y su primera entrada importante en la carrera de la inteligencia artificial.
Los nuevos servicios de IA se integrarán en sus iPhones, iPads y Macs más rápidos a partir de este otoño. Las personas podrán usarlo para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siripara hacerlo más conversacional y darle acceso a datos en todas las aplicaciones.
Durante la conferencia de Apple de este mes, cuando presentó Apple Intelligence, el vicepresidente senior de ingeniería de software de la compañía, Craig Federighi, compartió cómo podría funcionar: Federighi recibió un correo electrónico de un colega pidiéndole que pospusiera una reunión, pero no estaba Se supone que esa noche vería una obra de teatro protagonizada por su hija. Luego, su teléfono abrió su calendario, un documento que contenía detalles sobre la obra y una aplicación de mapas para predecir si llegaría tarde a la obra si aceptaba una reunión más tarde.
Apple dijo que se estaba esforzando por procesar la mayoría de los datos de IA directamente en sus teléfonos y computadoras, lo que evitaría que otros, incluido Apple, tuvieran acceso a la información. Pero para las tareas que deben enviarse a los servidores, dijo Apple, ha desarrollado salvaguardas, incluida la codificación de los datos mediante cifrado y su eliminación inmediata.
Apple también ha implementado medidas para que sus empleados no tengan acceso a los datos, dijo la compañía. Apple también dijo que permitiría a los investigadores de seguridad auditar su tecnología para asegurarse de que estuviera cumpliendo sus promesas.
Pero Apple no ha tenido claro qué nuevas solicitudes de Siri podrían enviarse a los servidores de la compañía, dijo Matthew Green, investigador de seguridad y profesor asociado de ciencias de la computación en la Universidad Johns Hopkins, quien fue informado por Apple sobre su nueva tecnología. Todo lo que sale de tu dispositivo es inherentemente menos seguro, afirmó.
Las computadoras portátiles con inteligencia artificial de Microsoft
Microsoft está llevando la IA a las computadoras portátiles antiguas.
La semana pasada, comenzó a lanzar computadoras con Windows llamadas Copilot+ PC, que comienzan en $1,000. Las computadoras contienen un nuevo tipo de chip y otros equipos que, según Microsoft, mantendrán sus datos privados y seguros. Las PC pueden generar imágenes y reescribir documentos, entre otras nuevas funciones impulsadas por IA.
La compañía también presentó Recall, un nuevo sistema para ayudar a los usuarios a encontrar rápidamente documentos y archivos en los que han trabajado, correos electrónicos que han leído o sitios web que han navegado. Microsoft compara Recall con tener una memoria fotográfica integrada en su PC.
Para usarlo, puedes escribir frases informales, como “Estoy pensando en una videollamada que tuve con Joe recientemente cuando sostenía una taza de café que decía ‘Amo Nueva York'”. Luego, la computadora recuperará la grabación de la videollamada que contiene esos detalles.
Para lograr esto, Recall toma capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y compila esas imágenes en una base de datos con capacidad de búsqueda. Las instantáneas se almacenan y analizan directamente en la PC, por lo que Microsoft no revisa los datos ni los utiliza para mejorar su IA, dijo la compañía.
Aún así, los investigadores de seguridad advirtieron sobre riesgos potenciales y explicaron que los datos podrían expone fácilmente todo lo que has escrito o visto si fue pirateado. En respuesta, Microsoft, que tenía intención de lanzar Recall la semana pasada, pospuso su lanzamiento indefinidamente.
Las PC vienen equipadas con el nuevo sistema operativo Windows 11 de Microsoft. Tiene múltiples capas de seguridad, dijo David Weston, un ejecutivo de la empresa que supervisa la seguridad.
IA de Google
El mes pasado, Google también anunció un conjunto de servicios de inteligencia artificial.
Una de sus mayores revelaciones fue un nuevo detector de estafas para llamadas telefónicas impulsado por inteligencia artificial. La herramienta escucha las llamadas telefónicas en tiempo real y, si la persona que llama parece un estafador potencial (por ejemplo, si solicita un PIN bancario), la empresa se lo notifica. Google dijo que la gente tendría que activar el detector de estafas, que se opera completamente desde el teléfono. Eso significa que Google no escuchará las llamadas.
Google anunció otra función, Ask Photos, que sí requiere enviar información a los servidores de la empresa. Los usuarios pueden hacer preguntas como “¿Cuándo aprendió mi hija a nadar?” para que salgan a la luz las primeras imágenes de su hijo nadando.
Google dijo que sus trabajadores podrían, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotografías para abordar abusos o daños, y que la información también podría usarse para ayudar a mejorar su aplicación de fotografías. Para decirlo de otra manera, su pregunta y la foto de su hijo nadando podrían usarse para ayudar a otros padres a encontrar imágenes de sus hijos nadando.
Google dijo que su nube estaba bloqueada con tecnologías de seguridad como cifrado y protocolos para limitar el acceso de los empleados a los datos.
“Nuestro enfoque de protección de la privacidad se aplica a nuestras funciones de inteligencia artificial, sin importar si están activadas en el dispositivo o en la nube”, dijo en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.
Pero Green, el investigador de seguridad, dijo que el enfoque de Google hacia la privacidad de la IA parecía relativamente opaco.
“No me gusta la idea de que mis fotos y búsquedas muy personales vayan a una nube que no está bajo mi control”, dijo.
