Künstliche Intelligenz und Roboter | Die Zukunft oder unser Untergang? ||||||||downfall Inteligência Artificial||||||||perdição Artificial Intelligence and Robots | The Future or Our Demise? Inteligencia artificial y robots | ¿El futuro o nuestra perdición? Intelligence artificielle et robots | L'avenir ou notre perte ? Intelligenza artificiale e robot | Il futuro o la nostra rovina? Sztuczna inteligencja i roboty | Przyszłość czy nasz upadek? Inteligência Artificial e Robots | O futuro ou a nossa morte? Artificiell intelligens och robotar - framtiden eller vår undergång? Yapay Zeka ve Robotlar | Gelecek mi Yoksa Sonumuz mu? Штучний інтелект і роботи | Майбутнє чи наше падіння?

Dass Künstliche Intelligenz und Roboter unsere Arbeitswelt auf den Kopf stellen werden, ist صحيح أن الذكاء الاصطناعي والروبوتات سيقلبان عالمنا العملي رأسًا على عقب It is that artificial intelligence and robots will turn our world of work upside down Que l'intelligence artificielle et les robots vont bouleverser notre monde du travail, c'est une évidence.

heute schon ziemlich gut absehbar und deshalb beschäftigen wir uns in dieser Folge ||||previsível|||lidamos com||||| already pretty predictable today and that's why we'll deal with this episode

SOundSO gesehen genau damit. som assim||| SOundSO seen exactly with it.

Wir fragen uns aber auch, ob KIs und Roboter vielleicht irgendwann die Weltherrschaft an ||||||||||||world domination| ||||||IAs||||||domínio mundial| But we also ask ourselves whether AIs and robots might eventually take over the world

sich reißen werden. |rasgar-se| will tear themselves.

Robotik und Künstliche Intelligenz sind zwei Forschungsfelder, die sich rasant weiterentwickeln ||||||fields of research||||develop further |||||||||rapidamente|desenvolvem rapidamente Robotics and artificial intelligence are two fields of research that are developing rapidly

und große Auswirkungen auf unseren Arbeitsmarkt haben könnten, denn ihre Entwicklungen stehen ||||||||||developments| ||impactos||||||||| and could have a major impact on our labor market, because their developments stand

in Konkurrenz zur menschlichen Arbeitskraft. in competition with human labor.

Die Roboter übernehmen körperliche Arbeit und KIs das Denken. ||assumem|||||| Robots do the physical work and AIs do the thinking.

Über Automatisierung und ihre Folgen für den Arbeitsmarkt haben wir ja in der ersten We talked about automation and its consequences for the labor market in the first

Folge schon gesprochen und die findet ihr wie alle anderen Folgen auch in der Infobox Episode already spoken and you can find it like all other episodes in the infobox

verlinkt. linkado(1) linked.

Heute wollen wir in Bezug auf Roboter und KIs noch ein bisschen ins Detail gehen. ||||regard|||||||||| ||||relação|||||||||| Today, we want to go into a bit more detail regarding robots and AIs.

Fangen wir mit Robotern an: Die eignen sich natürlich besonders gut für repetitive Aufgaben ||||||own||||||| Let's start with robots: They are of course particularly well suited for repetitive tasks

oder solche, bei denen große Präzision oder große Stärke erforderlich ist. |||||precision||||required| |||||||||necessária| or those where great precision or great strength is required.

Ein klassisches Beispiel ist Fließbandarbeit. ||||assembly line work ||||trabalho em linha A classic example is assembly line work.

Viel schwieriger wird es, wenn Roboter Aufgaben übernehmen sollen, bei denen Spontanität |||||||assumirem tarefas|||| It becomes much more difficult when robots are asked to take over tasks where spontaneity

und Flexibilität gefragt sind. and flexibility are required.

Einen Bolzen in die immer gleiche Stelle in eine Karosserie zu schweißen, ist das eine, |bolt||||||||body||weld||| |parafuso||||||||carroceria||soldar||| Welding a bolt into the same spot in a body every time is one thing,

eine Pipeline durch die eben nicht genormte Natur zu verlegen und zu schweißen schon ||||||standardized|||install|||| |Pipeline(1)|||||não padronizada|||instalar|||soldar| to lay and weld a pipeline through the just not standardized nature already

schwieriger. more difficult.

Aber es gibt durchaus schon Roboter, die Arbeiten außerhalb der genormten Umgebung einer Fabrik ||||||||outside||standardized|environment||factory |||de fato|||||||padronizada|ambiente|| But there are already robots that can do work outside the standardized environment of a factory.

übernehmen können: Zum Beispiel SAM , das steht für Semi-Automated Mason, also

Halbautomatischer Maurer. semi-automatic| Semi-automatic bricklayer.

Der kann eine gerade Mauer bauen, indem er sich an einem Fixpunkt in der Umgebung kalibriert, |||||||||||||||calibrates |||||||||||ponto fixo|||| He can build a straight wall by calibrating himself at a fixed point in the area,

auch wenn der Untergrund, auf dem er sich bewegt, nicht 100 prozentig gerade ist. ||||||||||percent|| even if the surface on which it moves is not 100 percent straight.

Aber auch SAM kommt nicht aus, ohne dass Menschen um ihn herum arbeiten und wenn es ein bisschen |||||||||||around|||||| But even SAM can't get by without people working around him, and if there's a bit of a

komplizierter wird als eine einfache gerade Mauer zu bauen, dann ist er auch überfordert. |||||||||||||overwhelmed |||||||||||||sobrecarregado becomes more complicated than building a simple straight wall, then he is also overwhelmed.

Hier geht es also eher darum, Menschen bei ihren einfachen Arbeiten zu unterstützen. ||||||||||||support ||||||||||||apoiar So this is more about helping people do their simple jobs.

Die Vorstellungen, welche Aufgaben Roboter in Zukunft übernehmen können, gehen aber über |visions|||||||||| |||||||assumirão|||| However, the ideas about what tasks robots will be able to perform in the future go beyond

einfache motorische Aufgaben hinaus. |motor|| simple motor tasks.

Vor allem in der Verbindung zwischen Roboter und KI in Form von Androiden, also Robotern ||||||||||||||robots Especially in the connection between robots and AI in the form of androids, i.e. robots

die aussehen wie Menschen, sehen viele das Potenzial, menschliche Arbeitskräfte zu ersetzen. |||||||||||replace |||||||||||substituir who look like humans, many see the potential to replace human labor.

Ich meine zum Beispiel Pflegeroboter. ||||caregiving robot ||||robô de cuidados I mean care robots, for example.

Aber bei denen Stellen sich ja noch mal ganz andere Fragen, wie The Knight Returns kommentiert: Но с ними возникают совершенно другие вопросы, как комментирует "Рыцарь возвращается":

“[...] Welche Funktion soll KI (Künstliche Intelligenz ) in der Zukunft übernehmen ,sprich |||||||||assumirá|

nur Tätigkeiten die unseren Alltag erleichtern oder soll es auch als eine Art des Ersatzes |||||ease|||||||||replacement |||||facilitam|||||||||substituto only activities that make our everyday life easier or should also be used as a kind of substitute

zwischenmenschlicher Beziehungen dienen. [...]” interpersonal||

Das ist nämlich die Frage: Kann ein Roboter mit künstlicher Intelligenz einen empathischen That is the question: Can a robot with artificial intelligence create an empathic one?

Menschen ersetzen? |replace |substituir pessoas

Unser Zuschauer Benjamin Seibel hat da so seine Zweifel: ||||||||dúvidas

“Ich hatte durch einen Versuch [...] mal mit einem hotelroboter „Kontakt“ ||||||||hotel robot| ||||experiência|||||

Dort musste man auf englisch in ein Hotel einchecken und der Roboter hat die Arbeit, ||||||||check|||||| ||||||||fazer check-in|||||| There you had to check into a hotel in English and the robot did the job,

die normalerweise die Rezeption übernimmt, übernommen. |||||assume

In diesem Fall hat das Recht gut funktioniert (was mich echt überrascht hat).

Allerdings muss ich sagen dass einem da ein wenig die Menschlichkeit gefehlt hat.[...]” ||||||||||humanity|missed|

Vielleicht ist das Ganze aber auch nur in Kombination gut.

Bleiben wir beim Beispiel Pflege. ||||care ||||cuidados

Wenn zum Beispiel Pflegeroboter den Pflegekräften alle Arbeiten abnehmen würden, die nicht |||||caregivers|||take||| |||robôs de cuidado||cuidadores|||retirar trabalho||| If, for example, care robots were to relieve the caregivers of all the work they did not

direkt mit den Patienten zu tun haben, könnten die sich auf den zwischenmenschlichen Kontakt ||||||||||||interpersonal| непосредственно с пациентами, что может повлиять на межличностный контакт.

konzentrieren.

Roboter sind ja irgendwie noch greifbar und etwas, womit sich viele Menschen noch anfreunden |||||reachable||||||||befriend |||||ao alcance||||||||se acostumam

können - Staubsaugerroboter haben ja zum Beispiel viele. |vacuum robot||||| |robô aspirador|||||

Künstliche Intelligenzen - da sind viele Menschen skeptischer.

Steinchen schreibt dazu zum Beispiel: little stone|||| pedrinha|||| Об этом пишет, например, Стейнхен:

“Robotik finde ich sinnvoll, weil oft effizienter und Arbeiter entlastend. |||||||||relieving |||útil||||||aliviador de trabalho "Я считаю робототехнику полезной, потому что она зачастую более эффективна и освобождает работников.

KI sehe ich eher skeptisch.

[...] Ich möchte mich aber nicht damit anfreunden, dass Menschen mehr Entscheidungen als nötig ||||||me conformar||||decisões||

von der KI abgenommen werden. |||retirada pela|

Sonst halte ich die Gefahr für zu groß, dass sich eine KI verselbständigen kann und ||||perigo||||||||tornar-se autônoma||

nicht nachvollziehbare Entscheidungen mit nicht vorhersehbaren Auswirkungen trifft. |||||foreseeable|effects| |compreensíveis|decisões|||imprevisíveis|impactos|toma принимает непонятные решения с непредсказуемыми последствиями.

Im kleinen konnte man das ja zum Teil schon beim YouTube-Algorithmus beobachten, bei dem

scheinbar selbst YouTube nicht genau wusste, warum er so sortiert, wie er sortiert.” aparentemente|||||||||classificado|||

Um diesen Punkt besser zu verstehen, ist eine Unterscheidung wichtig - die zwischen schwacher ||||||||||||fraca

und starker KI.

Schwache KI ist in der Lage Entscheidungen in einem bestimmten Aufgabenbereich zu erledigen, ||||||decisions||||area of tasks|| ||||||||||área de tarefas||realizar tarefas

zum Beispiel einen Weg zu finden oder Dinge zu sortieren. |||||||coisas||organizar

Starke KI dagegen ähnelt viel eher dem menschlichen Denken, ist in der Lage zu lernen und logische |||resembles||||||||||||| ||por outro lado|assemelha|||||||||||||

Schlüsse auf Grundlage großer Datenmengen zu schließen. draw conclusions||||data sets|| conclusões||||grandes volumes de dados||tirar conclusões

In diesem Bereich hat sich in den letzten Jahren extrem viel getan.

Nehmen wir beispielsweise machine learning, bei dem eine KI Muster in riesigen Datenmengen ||||||||||||grandes volumes de dados

erkennt und dabei lernt zu abstrahieren und zu verallgemeinern. |||||abstract|||generalize ||||||||generalizar

Oder die Entwicklung künstlicher neuronaler Netze, die sich an der Funktionsweise des |||artificial|||||||function| ||||||||||funcionamento|

menschlichen Gehirns orientieren. |cérebro humano|

Das kann man positiv finden wie honestee: ||||||honesty

“Dies ist meiner Meinung nach das wichtigste was der Menschheit passieren kann.

All unser Wissen haben wir daraus dass Menschen lernen und dieses Wissen weitergeben.

Dieses Wissen zu speichern und daraus Schlussfolgerungen zu ziehen würde vieles verbessern. |||store|||conclusions||||| |||armazenar|||conclusões|||||

Nichts desto trotz braucht man meistens die menschliche Kontrolle.

Wie z.B einem Arzt der mit einem zur Diagnosestellung fähigem Gerät arbeitet.” |||||||||diagnosis|capable|device| |||||||||diagnóstico|capaz de|aparelho|

Wenn ihr jetzt denkt: Diagnose von Krankheiten durch künstliche Intelligenzen, das ist doch Zukunftsmusik. |||||||||||||future music

Ist es nicht.

Die KI Watson von IBM optimiert nicht nur die Arbeitsabläufe großer Unternehmen, sie |||||optimizes||||workflows||| |||||||||fluxos de trabalho|||

kann auch Krankheiten diagnostizieren und Therapieempfehlungen aussprechen und ist dabei |||diagnose||therapy recommendations|recommend treatments||| |||||recomendações de terapia||||

sogar besser als ihre menschlichen Konkurrenten, das zeigte ein Test der North Carolina School of Medicine. ||||human|competitors||||||||||

Das muss einen ja eigentlich auch nicht wundern.

Dass Maschinen in bestimmten Bereichen besser und schneller sind als Menschen, ist ja schon ||||áreas|||||||||

lange so - es macht uns zum Beispiel weder Angst noch stutzig, dass ein Taschenrechner ||||||||||suspicious||| ||||||||||surpreende|||calculadora уже давно - например, нас не пугает и не озадачивает тот факт, что карманный калькулятор

schneller rechnet als wir das können.

Und es ist auch nicht verwunderlich, dass Watson, dem alle Studien und Daten zu Krankheiten |||||not surprising||||||||| |||||surpreendente|||||||||

in der Sekunde der Entscheidung vorliegen, besser darin ist, eine Entscheidung zu treffen, |||||exist|||||decision|| |||||estar presente|||||||

die all diese Daten berücksichtigt. ||||considera

Fraglich ist aber, ob es Aspekte in diesen Entscheidungsprozessen gibt, die sich nicht Questionable|||||||||||| questionável||||||||processos de decisão||||

so einfach ableiten lassen und für die ein Arzt doch besser geeignet ist, weil sie zum ||derive||||||||||||| ||derivar|||||||||adequado||||

Beispiel Empathie voraussetzen oder weil es moralische Aspekte zu berücksichtigen gilt. ||assume|||||||| ||supor|||||||considerar|

Jetzt könnte man fragen: Kann man Moralität nicht einfach einprogrammieren?

Naja, dafür müssten sich die Menschen erst mal auf ethische Basiswerte einigen und das ||||||||||basic values||| ||||||||||valores éticos|||

schaffen sie ja sonst auch nicht.

Je nachdem, ob man nach utilitaristischen oder deontologischen Kriterien entscheidet, |||||||deontological|| |||||||||decidir

kommt man zu sehr unterschiedlichen Ergebnissen. |||||resultados

Wenn ihr jetzt gar nicht versteht, was ich gemeint habe, dann guckt mal in die Infocard. |||||||||||olhem||||Infocard(1)

Von diesen Problemen habt ihr vielleicht schon mal im Kontext des autonomen Fahrens gehört, ||||||||||||condução autônoma|

wo man zum Beispiel entscheiden muss: Wen soll das Auto im Falle eines Unfalls schützen: ||||decidir|||||||||acidente| где вы должны решить, например: Кого должен защищать автомобиль в случае аварии:

Immer den Fahrer oder möglichst viele Menschen oder bestimmte Menschen zuerst – wie zum

Beispiel Kinder?

Das sind alles Probleme, die nicht so einfach zu beantworten sind.

Und damit fängt das ganze Problem erst an.

Man muss sich ja zudem überlegen: Wer ist für die Entscheidungen der KI am Ende verantwortlich? ||a gente||além disso|pensar|||||decisões|||||responsável

Der, der sie benutzt, oder der, der sie programmiert hat oder vielleicht die KI selbst und was

würde das dann bedeuten?

Auch wenn oder gerade weil KIs wie Watson Entscheidungen fällen können, die auf einer

sehr breiten Wissensbasis stehen, müssen wir aufpassen, uns nicht zu sehr auf sie zu ||knowledge base||||||||||| |ampla|||||ter cuidado|||||||

verlassen, wie unser Zuschauer Jan B. sagt: [...] Umso mehr KIs eingesetzt werden und ||||||||||são utilizadas|| Как говорит наш зритель Ян Б.: [...] Чем больше ИИ будет развернуто и

umso mächtiger sie werden, umso seltener werden wir fragen, ob sie das Richtige machen. ||||the||||||||| tanto||||||||||||| Чем могущественнее они становятся, тем реже мы спрашиваем, правильно ли они поступают.

Wir Menschen werden unser Leben freiwillig von Maschinen bestimmen lassen, weil wir denken, |||||voluntariamente|||||||

sie wissen es schon besser als wir. grusel [...] |||||||horror

Ein bisschen liegt das ja in der Natur der Sache.

Wir lassen bestimmte Dinge von KIs oder Algorithmen entscheiden, weil die zu berücksichtigende ||||||||||||be considered ||||||||||||consideração

Datenmenge so groß ist, dass ein Mensch sie alleine nicht erfassen kann und dem Ergebnis conjunto de dados||||||||||compreender||||resultado

müssen wir dann in gewisser Weise vertrauen – so wie wir unserem Taschenrechner vertrauen, ||||||confiar|||||calculadora|confiar

dass das Ergebnis, das er ausspuckt, das richtige ist. |||||spits out||| |||||produz|||

Beim Taschenrechner kann man aber immerhin noch nachrechnen, ob das Ergebnis stimmt und |||||||double-check||||| |||||||rever cálculo|||||

wir wissen auch, wie der Taschenrechner auf das Ergebnis gekommen ist. ||||||||resultado(1)||

Algorithmen und Deeplerningverfaren können so komplex werden, dass sie selbst für ihre ||deep learning methods||||||||| ||técnicas de aprendizado profundo|||||||||

Programmierer nicht mehr nachvollziehbar sind und am Ende niemand weiß, wie das Ergebnis |||compreensível|||||||||

wirklich zustande gekommen ist.

Und man darf dabei nicht vergessen, dass Algorithmen immer nur so gut sind, wie die Daten, mit

denen man sie füttert und darüber hinaus muss man immer noch im Auge behalten, ob die |||alimentar||||||||||||

Schlüsse, die ein Algorithmus ausspuckt, wirklich die Richtigen sind. conclusões||||gera||||

Nehmen wir das Beispiel einer KI, die festlegen soll, wo wie viele Einsatzkräfte der Polizei |||||||determinar|||||||

hingeschickt werden müssen. sent|| enviados||

Dafür wird man sie sicherlich mit den Daten füttern, die anzeigen, wo in der Vergangenheit Для этого им, конечно же, будут предоставлены данные, показывающие, где в прошлом

Straftaten begangen wurden und die KI und der Algorithmus wird die Polizeikräfte dann |||||||||||forças policiais| правонарушения были совершены, после чего ИИ и алгоритм будут

dahin verteilen, wo die meisten dieser Straftaten begangen wurden. |distribuir|||||crimes|foram cometidas| к месту совершения большинства этих преступлений.

Das klingt erstmal logisch.

Dabei entsteht aber ein Problem: Die Daten aus der Vergangenheit sind ja keineswegs neutral, |surge||||||||||||

denn sie beruhen ja auf dem Kontrollverhalten der Polizei. ||||||control behavior|| ||baseiam-se||||comportamento de controle||

Das heißt dort, wo es früher schon mehr Polizei gegeben hat, sind logischerweise mehr ||||||||||||logically| ||||||||||||logicamente|

Straftaten entdeckt worden, was gleichzeitig nicht heißt, dass an diesem Ort mehr Straftaten crimes||||||||||||crimes

begangen wurden als woanders. cometidos em|||em outro lugar

Wenn der Algorithmus diese Daten nun einfach übernimmt, dann kommt dabei 1. keine neutrale |||||||assume|||||

Empfehlung heraus, selbst wenn eine kühle neutrale KI das ganze entscheidet und 2. wird recomendação|||||fria|||||||

das Problem sogar einfach reproduziert und verstärkt, denn mit jedem weiteren Polizisten ||||||aumenta||||| ||||reproducido|||||||

an einem Ort werden ja weitere Straftaten entdeckt und dadurch wird das ganze nur verstärkt. ||||||||||||||aumentado

Das gilt für KIs und Algorithmen, die in einem abgesteckten Rahmen operieren. |||||||||defined|| |||||||||definido||

KIs, die wirklich selbstständig lernen, könnten sich aus diesem Rahmen herauslösen und zu ||||||||||break out|| |||de forma autônoma|||||||se desvincular||

ganz eigenen Schlüssen kommen, das wiederum könnte uns aus anderen Gründen aber auch ||keys||||||||||

nicht gefallen.

Diesen Moment, also den, wenn sich Maschinen selbstständig weiterentwickeln und verbessern |||||||de forma autônoma|desenvolvem sozinhas||

können, nennt man technologische Singularität.

Man geht davon aus, dass sich ab diesem Zeitpunkt der technologische Fortschritt derart beschleunigen ||||||||||||so|accelerate ||||||||||||de tal forma|acelerará

wird, dass er für den Menschen in seinen Folgen nicht mehr nachvollziehbar ist. |||||||||||compreensível|

Die Vorstellung, dass KIs Entscheidungen treffen könnten, die sich gegen den Menschen richten

und auch die Möglichkeit haben, diese Entscheidungen durchzusetzen, kann einem ganz schön Angst |||||||enforce||||| |||||||implementar|||||

machen.

Und mit dieser Angst ist man in guter Gesellschaft.

Elon Musk, der ja nicht gerade als technologiefeindlich bekannt ist, hat seine Sorge vor der Entwicklung |||||||technology-averse|||||||| |||||||anti-tecnologia|||||||| Элон Маск, который не очень известен своей враждебностью к технологиям, выразил свою озабоченность разработкой

von künstlichen Intelligenzen zum Ausdruck gebracht und auch Steven Hawking warnte davor,

ihre Gefahren nicht zu unterschätzen. ||||subestimar

Ihr seht, um einen breiten Dialog über den Umgang mit KIs werden wir nicht herumkommen. ||||||||||||||get around ||||amplo||||||||||escapar disso

Und sofern KIs nicht die Weltherrschaft an sich reißen, werden diese Technologien unsere ||||||||tomarão posse||||

Gesellschaft vor ganz neue Herausforderungen stellen. ||||desafios|

Welche genau und ob zum Beispiel das bedingungslose Grundeinkommen eine Antwort auf die Probleme |||||||universal|||||| |||||||incondicional|renda básica|||||

sein könnte, diskutieren wir in der nächsten Folge.

Schreibt mir gerne schonmal eure Gedanken dazu, dann kann ich euren Input in die nächste |||já|||||||||||

Folge mitnehmen.

Was denkt ihr?

Wie wird unser Zusammenleben mit KIs und Robotern aussehen und wie wird sich unsere Gesellschaft

anpassen müssen? ajustar-se|

Diskutiert in den Comments, aber bitte ohne Spambots!

Ich bin der Ben, das war SOundSO gesehen.