Nuevo: Prueba mi robot de inteligencia artificial nueva película

Peligros y retos del Internet de los objetos: puntos cruciales de Bruce Schneier

Bruce Schneier es uno de los pensadores más brillantes cuando se trata de seguridad y tecnología, en general. Su reciente artículo Haga clic aquí para matar a todo el mundo es una lectura obligada para cualquiera que se plantee el futuro de la tecnología y, en particular, de la Internet de los objetos (IoT).

Mientras preparaba mi próxima ponencia en la Foro Mundial de la IO en Londres (23 de mayo) Sus comentarios me han parecido muy valiosos, así que he pensado que debería compartir aquí algunos de sus mejores comentarios (pero asegúrese de leerlos, imprimirlos y enmarcarlos). el artículo completo!). He añadido algunos resaltes para dar más énfasis.

"La industria está llena de fallos del mercado que, hasta ahora, han sido en gran medida ignorables. A medida que los ordenadores vayan penetrando en nuestros hogares, coches y empresas, estos fallos del mercado dejarán de ser tolerables. Nuestra única solución será la regulación, y esa regulación nos será impuesta por un gobierno desesperado por "hacer algo" ante el desastre"

"La regulación puede ser una palabra sucia en el clima político actual, pero la seguridad es la excepción a nuestro sesgo de gobierno pequeño. Y a medida que las amenazas que plantean los ordenadores sean mayores y más catastróficas, la regulación será inevitableTambién tenemos que invertir la tendencia a conectarlo todo a la internet. Y si nos arriesgamos a sufrir daños e incluso a morir, debemos pensar dos veces qué conectamos y qué dejamos deliberadamente sin informatizar"

"Ya no tenemos cosas con ordenadores incorporados. Tenemos ordenadores con cosas conectadas a ellos... Internet ya no es una red a la que nos conectamos. Ahora vivimos en un mundo informatizado, conectado e interconectado. Esto es el futuro, lo que llamamos la Internet de los objetos".

"Los sensores son los ojos y los oídos de Internet. Los actuadores son las manos y los pies de Internet. Y lo que hay en medio es el cerebro. Estamos construyendo una Internet que siente, piensa y actúa: ....Démosle manos y pies, y será capaz de dar puñetazos y patadas".

"El mercado no puede arreglar esto porque ni al comprador ni al vendedor les importa. A los propietarios de las cámaras web y DVR utilizadas en los ataques de denegación de servicio no les importa. Sus dispositivos eran baratos, siguen funcionando y no conocen a ninguna de las víctimas de los ataques. A los vendedores de esos dispositivos no les importa: Ahora venden modelos más nuevos y mejores, y a los compradores originales sólo les importaba el precio y las características. No hay solución de mercado, porque la inseguridad es lo que los economistas llaman una externalidad: Es un efecto de la decisión de compra que afecta a otras personas. Piense en ello como una especie de contaminación invisible".

"Como sociedad, somos pésimos en seguridad proactiva; rara vez tomamos medidas preventivas de seguridad hasta que se produce un ataque... Hasta ahora hemos dejado la seguridad informática en manos del mercado. Como los productos informáticos y de red que compramos y utilizamos son tan malos, ha surgido una enorme industria de posventa de seguridad informática. Gobiernos, empresas y ciudadanos compran la seguridad que creen que necesitan para protegerse. Nos las hemos arreglado bastante bien, pero los fallos del mercado inherentes al intento de asegurar este robot de tamaño mundial pronto serán demasiado grandes para ignorarlos"

"Los mercados por sí solos no pueden resolver nuestros problemas de seguridad. Los mercados están motivados por el beneficio y los objetivos a corto plazo a expensas de la sociedad. No pueden resolver problemas de acción colectiva. No podrán hacer frente a externalidades económicas, como las vulnerabilidades de los DVR que provocaron la desconexión de Twitter. Y necesitamos una fuerza de contrapeso al poder corporativo"

"Acertar con la política es tan importante como acertar con la tecnología porque, para que la seguridad en Internet funcione, la ley y la tecnología tienen que trabajar juntas". Esta es probablemente la lección más importante de las revelaciones de Edward Snowden sobre la NSA. Ya sabíamos que la tecnología puede subvertir la ley. Snowden demostró que la ley también puede subvertir la tecnología. Ambas fracasan a menos que cada una funcione. No basta con dejar que la tecnología haga lo suyo".

"Tengo una propuesta: una nueva agencia gubernamental reguladora. Antes de descartarla de plano, por favor, escúchenme... Nuestro robot del tamaño del mundo tiene que verse como una entidad única con millones de componentes que interactúan entre sí. Las soluciones deben ser holísticas. Tienen que funcionar en todas partes, para todo. Ya hablemos de coches, drones o teléfonos, todos son ordenadores"

"Necesitamos que el gobierno garantice que las empresas siguen buenas prácticas de seguridad: pruebas, parches, valores predeterminados seguros... y necesitamos poder exigir responsabilidades a las empresas cuando no hagan estas cosas. Necesitamos que el gobierno imponga una sólida protección de los datos personales y limitaciones a su recopilación y uso. Debemos garantizar que la investigación responsable en materia de seguridad sea legal y esté bien financiada. Tenemos que imponer la transparencia en el diseño, algún tipo de custodia del código en caso de que una empresa quiebre y la interoperabilidad entre dispositivos de distintos fabricantes, para contrarrestar los efectos monopolísticos de las tecnologías interconectadas. Las personas deben tener derecho a llevarse sus datos consigo. Y los dispositivos con conexión a Internet deben conservar una funcionalidad mínima si se desconectan de la red".

"Que actualmente estemos en medio de una era de escasa confianza en el gobierno, en la que muchos de nosotros no podemos imaginar que el gobierno haga algo positivo en un área como ésta, va en detrimento nuestro. Nuestra elección no es entre la implicación del gobierno y la no implicación del gobierno. Nuestra elección está entre una participación gubernamental más inteligente y una participación gubernamental más estúpida. Tenemos que empezar a pensar en esto ahora. Las normativas son necesarias, importantes y complejas, y están al caer. No podemos permitirnos ignorar estas cuestiones hasta que sea demasiado tarde...También tenemos que empezar a desconectar sistemas. Si no podemos asegurar los sistemas complejos al nivel requerido por sus capacidades en el mundo real, entonces no debemos construir un mundo donde todo esté informatizado e interconectado"

"Esto me lleva a mi última súplica: Necesitamos más tecnólogos de interés público. En realidad, esta petición va más allá de la seguridad. Prácticamente todos los grandes debates políticos de este siglo tendrán un importante componente tecnológico. Ya se trate de armas de destrucción masiva, de robots que afectan drásticamente al empleo, del cambio climático, de la seguridad alimentaria o de la creciente omnipresencia de drones cada vez más pequeños, entender la política significa entender la tecnología. Nuestra sociedad necesita desesperadamente tecnólogos que trabajen en la política. La alternativa es una mala política".

"Hasta ahora, en gran medida hemos dejado solo a Internet. Dábamos a los programadores un derecho especial a codificar el ciberespacio como les pareciera. Esto estaba bien porque el ciberespacio estaba separado y era relativamente poco importante: es decir, no importaba. Ahora que eso ha cambiado, ya no podemos dar ese poder a los programadores y a las empresas para las que trabajan. Esas decisiones morales, éticas y políticas tienen que ser tomadas, de alguna manera, por todos. Tenemos que conectar a las personas con el mismo celo con el que actualmente conectamos las máquinas. Al "conéctalo todo" hay que oponerle el "conéctanos a todos".

 

He aquí una ilustración reciente en la que estoy trabajando y que resume algunas de estas mismas cuestiones. Lo llamo "una nueva metainteligencia":

He aquí algunas cosas relacionadas que me gustaría aportar al debate:

Gerd Leonhard, Director General de la Agencia de Futuros, cree que las empresas que persiguen la información de los usuarios "nunca querrán menos datos de nosotros, y les resultará imposible resistirse al mantra de 'sí podemos y así lo haremos'", describiéndolo como un "enorme problema que se cierne justo delante de nosotros". En su opinión, es un problema que habrá que abordar tanto a nivel individual como reglamentario. Seguir leyendo

Leer mi  OPEN CARTA A LA ASOCIACIÓN SOBRE AI (TOMA 2)

El Internet de los objetos y sus consecuencias imprevistas: por qué debemos proceder con cautela (de mi blog - en 2015;)

 

De una conferencia magistral que di en 2014:)

Varias imágenes sobre este tema (todas utilizables bajo licencia creative commons)

6853

Vistas


Etiquetas

boletín

* indica necesario
último libro