{"id":112349,"date":"2019-03-31T17:01:43","date_gmt":"2019-03-31T15:01:43","guid":{"rendered":"https:\/\/gerdtestpress.online\/?p=112349"},"modified":"2019-04-01T06:06:29","modified_gmt":"2019-04-01T04:06:29","slug":"we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn","status":"publish","type":"post","link":"https:\/\/futuristgerd.com\/de\/2019\/03\/we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn\/","title":{"rendered":"Wir m\u00fcssen die Roboter daran hindern, die Menschheit zu \u00fcberlisten"},"content":{"rendered":"

Jaan Tallinn<\/a> ist ein Gr\u00fcndungsingenieur von Skype<\/a> und Kazaa<\/a>. Er gr\u00fcndete die Zentrum f\u00fcr das Studium des existenziellen Risikos<\/a> und er ist auch Mitbegr\u00fcnder der\u00a0Institut Zukunft des Lebens<\/a>\u00a0und unterst\u00fctzt philanthropisch andere Organisationen zur Erforschung existenzieller Risiken. <\/strong><\/p>\n

Er wurde k\u00fcrzlich\u00a0interviewt von The Guardian<\/a>\u00a0zum Thema des Potenzials der KI, die menschliche Zivilisation zu beenden. Es ist eine ausgezeichnete - wenn auch lange - Lekt\u00fcre mit einigen interessanten Zitaten und Erkenntnissen. Hier sind einige meiner Lieblingsausschnitte:<\/p>\n

\"Ich stimme zu, dass ... die Vorbereitung auf den Fall, dass die allgemeine KI die menschliche Intelligenz \u00fcbertrifft, eine der wichtigsten Aufgaben f\u00fcr die Menschheit ist.\"<\/em><\/p>\n

\"Wenn die Belohnungsstruktur einer \u00fcbermenschlichen KI nicht richtig programmiert ist, k\u00f6nnen selbst harmlose Ziele ein heimt\u00fcckisches Ende haben.\"<\/em><\/p>\n

\"Superintelligente KI bringt einzigartige Bedrohungen mit sich. Letztendlich hoffe ich, dass die KI-Gemeinschaft dem Beispiel der Anti-Atomkraft-Bewegung in den 1940er Jahren folgen wird. Nach den Bombenangriffen auf Hiroshima und Nagasaki schlossen sich die Wissenschaftler zusammen, um weitere Atomtests zu verhindern. \"Die Wissenschaftler des Manhattan-Projekts h\u00e4tten sagen k\u00f6nnen: 'Seht her, wir machen hier Innovation, und Innovation ist immer gut, also lasst uns einfach weitermachen...' Aber sie waren verantwortungsbewusster als das.\"<\/em><\/p>\n

\"Tallinn schlug vor, die Superintelligenz nicht nur in einem Beh\u00e4lter - einer physischen Struktur - einzuschlie\u00dfen, sondern sie auch auf die Beantwortung von Fragen zu beschr\u00e4nken, wie eine wirklich intelligente\u00a0Ouijabrett<\/a>. Der Ansatz, der die Forscher am meisten begeistert, besteht darin, einen Weg zu finden, um KI dazu zu bringen, sich an menschliche Werte zu halten - nicht, indem man sie einprogrammiert, sondern indem man KI lehrt, sie zu lernen. In einer Welt, die von der Parteipolitik beherrscht wird, machen sich die Menschen oft Gedanken dar\u00fcber, wie sich unsere Prinzipien unterscheiden.<\/em><\/p><\/blockquote>\n

Auf die Frage, wie Erfolg im Bereich der KI-Sicherheit aussehen k\u00f6nnte, verwies Tallinn auf folgende Punkte\u00a0der L<\/a>Ego-Film<\/a>\u00a0wo \"...alles fantastisch ist.\"<\/p>\n