Maschinen mit Bewusstsein – Sollten Roboter Rechte haben? ||conscience|||droits| machines||consciousness|Should||rights| ||الوعي|||| Machines with Consciousness - Should Robots Have Rights? Máquinas con conciencia: ¿deben tener derechos los robots? Machines conscientes - Les robots devraient-ils avoir des droits ? 意識を持つ機械 - ロボットは権利を持つべきか？ Maszyny ze świadomością - czy roboty powinny mieć prawa? Máquinas com consciência - Devem os robôs ter direitos? Машины с сознанием - должны ли роботы иметь права? Bilinçli Makineler - Robotların Hakları Olmalı mı? 有意识的机器——机器人应该有权利吗？

Stell dir vor, dein Toaster weiß genau, ||||Imaginez que votre grille-pain|| imagine||||toaster|knows|exactly ||||Tost makinesi|| Imagine your toaster knows exactly

wie du deinen Toast haben willst. |||toast||

Er durchforstet das Internet nach neuen, tollen Toastsorten. |исследует|||||| |Il parcourt Internet.||||||sortes de toasts |يبحث في|||||| |İnceliyor|||||harika|tost çeşitleri |browses|||for|new|great|types of toast He scours the Internet for new, great toast varieties.

Fragt dich auch mal, wie's dir geht. asks||||how it|| ||||nasıl olduğunu|| Ask yourself how you're doing sometime, too.

Und will mit dir über die neueste Toast-Technologie plaudern. |||||||||bavarder |||||||||الدردشة |||||||tost ekmeği||sohbet etmek |||||||||chat And wants to chat with you about the latest toast technology. E deseja conversar com você sobre a mais recente tecnologia de torradas.

Ab wann zählt dein Toaster als Lebewesen? ||||||être vivant When|when|counts||||living being ||||||كائن حي When does your toaster start counting as a living being? Quando sua torradeira começa a contar como um ser vivo?

Ab wann wirst du dich fragen, ob er Gefühle hat? ||||||if||| When will you start wondering if he has feelings? Quando você começará a se perguntar se ele tem sentimentos?

Und wenn er welche hat, wäre es Mord, ihm den Stecker zu ziehen? |||||||meurtre|||prise électrique||débrancher la prise And|||which|has|||murder|||plug||pull ||||||||||قابس كهربائي|| And if he has any, would it be murder to unplug him? E se ele tiver algum, seria um assassinato puxá-lo da tomada?

Könntest du ihn immer noch besitzen? |||||pourrais posséder encore ||هل يمكنك امتلاكه؟||| |||||own could you still own it Você ainda pode possuí-lo?

Werden wir unseren Maschinen irgendwann Rechte zugestehen müssen? ||||un jour||accorder| |||machines|sometime||grant| ||||||نمنح| Will we ever have to grant rights to our machines? Algum dia teremos que conceder direitos às nossas máquinas?

(Lebendige Musik) living| Canlı| (living music)

Künstliche Intelligenz ist bereits jetzt weit verbreitet. ||||||répandue Artificial|intelligence||already||wides|widespread Artificial intelligence is already widespread. La inteligencia artificial ya está muy extendida.

Sie zieht zu, dass die Ladenregale gefüllt sind. |||||étagères de magasin|| She|pulls||||shelves|filled| She draws that the store shelves are full.

Zeigt dir genau die richtige Internet-Werbung. shows||||||advertisement Shows you exactly the right Internet advertising. Mostra exatamente a publicidade certa na Internet.

Und vielleicht hast du schon mal Nachrichten gelesen, ||||||news|read And maybe you've read the news before,

die komplett von einer KI geschrieben waren. |completely|||AI|| written entirely by an AI.

Heute lachen wir noch We're still laughing today

über die primitive Simulation von Menschlichkeit bei Chat-Bots |||simulation primitive d'humanité||humanité simulée||bavardage|robots de discussion ||بدائي|||||| ||primitive|simulation||humanity||chat|bots about the primitive simulation of humanity in chat bots

in unseren Handys. in our phones.

Aber irgendwann werden sie sich wohl nicht mehr so einfach |un jour|||||||| |||||probably||||easily But at some point they will probably not be so easy anymore Pero en algún momento probablemente no serán tan fáciles de

in "echt" oder "simuliert" einteilen lassen. ||||classer en catégories| |real||simulated|divide| divided into "real" or "simulated". pueden clasificarse como "reales" o "simuladas". pode ser dividido em "real" ou "simulado".

Gibt es jetzt schon Maschinen, die Rechte haben sollten? |||already|||rights|| Are there already machines that should have rights? ¿Existen ya máquinas que deban tener derechos?

Eher nicht. Rather| Rather not.

Aber sollte es erst mal so weit sein, |||||so|far|be But should it ever come to that,

sind wir überhaupt nicht darauf vorbereitet. ||at all||to it|prepared we are not at all prepared for it.

Ein Großteil der Rechtsphilosophie ist nicht wirklich dafür gemacht, |||philosophie du droit||||| A|large part||legal philosophy||||for that|made Much of the philosophy of law is not really designed to

sich mit künstlicher Intelligenz zu befassen. |||||s'occuper ||artificial|||engage |||||التعامل مع deal with artificial intelligence.

Der Anspruch auf Recht, egal ob für Mensch oder Tier, |Le droit||droit|||||| |claim||||||human|| The right to rights, whether human or animal, O direito aos direitos, seja para humanos ou animais,

setzt ein Bewusstsein voraus. set||| sets||consciousness|requires requires awareness. pressupõe consciência.

Leider weiß aber niemand so genau, was Bewusstsein eigentlich ist. Unfortunately|||nobody|||||actually| Unfortunately, nobody knows exactly what consciousness actually is.

Manche glauben, dass es immateriell ist. ||||Certains croient que c'est immatériel.| Some|believe|||immaterial| Some believe it is immaterial.

Andere sagen, es sei eine Art Zustand wie "gasförmig" oder "flüssig". ||||||||gazeux|| |||||kind|state||gaseous||liquid Others say it is some kind of state like "gas" or "liquid".

Wir verstehen auch ohne Definition intuitiv, was Bewusstsein ist, ||||definition|intuitively||consciousness| Even without definition, we intuitively understand what consciousness is,

weil wir eins haben. because we have one.

Wir nehmen uns selbst und unsere Umgebung wahr, ||||||environnement| We|perceive|||||environment|perceive We perceive ourselves and our surroundings,

und wissen auch, wie es sich anfühlt, das Bewusstsein zu verlieren. ||||||يشعر به|||| ||||||feels||||lose and also know what it feels like to lose consciousness.

Einige Neurowissenschaftler glauben, |Certains neuroscientifiques croient| Some|neuroscientists| Some neuroscientists believe

dass jedes weit genug fortgeschrittene System ||||suffisamment avancé| ||||advanced| that any far enough advanced system

ein Bewusstsein entwickeln kann. ||développer| ||develop| can develop awareness.

Mit der entsprechenden Rechenleistung ||puissance de calcul appropriée|puissance de calcul ||corresponding|computing power With the appropriate computing power

könnte sich dein Toaster also seiner selbst bewusst werden. |||||||conscient de lui-même| |||toaster||its||aware| so your toaster could become self-aware.

Und dann? Hätte er dann Rechte verdient? ||Would||||deserved And then? Would he have earned rights then?

Nicht so schnell.

Würden unsere "Rechte" für ihn überhaupt einen Sinn ergeben? ||||||||donner |||||at all||sense|make Would our "rights" even make any sense to him? Nossos "direitos" fariam sentido para ele?

Ein Bewusstsein gibt uns den Anspruch auf Rechte, |||||droit|| ||gives|||claim|| A consciousness gives us the right to rights,

weil ein Lebewesen mit einem Bewusstsein Leid verspüren kann. |||||||ressentir| ||living being|||consciousness|suffering|experience| because a living being with a consciousness can feel suffering.

Wir spüren Schmerzen nicht nur, wir sind uns dessen auch bewusst. |feel|||||||of it||aware We not only feel pain, we are also aware of it. Não apenas sentimos dor, também estamos cientes dela.

Roboter leiden aber nicht. |suffer|| But robots don't suffer.

Und werden das vermutlich auch nie tun, |||presumably||| And probably never will E provavelmente nunca vai

außer wir programmieren sie dazu. except||program|| unless we program them to do so. a menos que os programemos para isso.

Aber für jemanden, der nicht zwischen Freud und Leid unterscheidet, ||||||plaisir||| |||||between|joy||sorrow|distinguishes But for someone who doesn't distinguish between joy and sorrow,

sind Rechte unbedeutend. ||sont insignifiants ||meaningless rights are irrelevant.

Menschenrechte sind eng an unsere eigene Programmierung geknüpft. les droits de l'homme||||||programmation innée|liés à human rights||closely||||programming|linked Human rights are closely linked to our own programming.

Unsere Gehirne meiden Schmerz, weil uns das am Leben erhält. |||||||||maintient |brains|avoid|pain||||||keeps Our brains avoid pain because it keeps us alive. Nosso cérebro evita a dor porque nos mantém vivos.

Feuer nicht berühren, vor Raubtieren davonlaufen und so. ||toucher||prédateurs|s'enfuir|| ||touch||predators|run away from|| Don't touch fire, run away from predators and all. Não toque no fogo, fuja de predadores e tudo.

Also haben wir uns Rechte ausgedacht, |||||inventé |||||thought up So we made up rights

um uns selbst vor Schmerz zu schützen. ||||pain||to protect to protect ourselves from pain.

Auch abstrakte Rechte, zum Beispiel das auf Freiheit, |abstract||for|for example||| Even abstract rights, for example that of freedom,

lassen sich auf ein Gefühl für "fair" und "unfair" zurückführen. ||||||||injuste|se ramènent à ||||feeling|for|fair|||be traced back can be traced back to a feeling for "fair" and "unfair".

Aber würde einen bewegungslosen Toaster ein Käfig stören? ||||||клетка| |||immobile|||cage|déranger |would||motionless|toaster|a|cage|disturb But would a motionless toaster interfere with a cage?

Würde es ihn kümmern, verschrottet zu werden, ||||утилизирован|| ||||mis à la casse|| |||to concern|scrapped|| ||||تم تفكيكه|| Would he care about being scrapped Ele gostaria de ser descartado

wenn er keine Angst vor dem Tod hat? if he is not afraid of death?

Verletzen ihn Beschimpfungen, wenn er ja kein Selbstwertgefühl hat? ||injures verbales|||||Estime de soi| injure||insults|||||self-esteem| Does verbal abuse hurt him when he has no self-esteem? O abuso verbal o machuca quando ele não tem auto-estima?

Und wenn wir einen Roboter nun so programmieren, |||||now|| And if we program a robot now like this,

dass er Schmerzen und Gefühle empfindet? |||||feels that he feels pain and emotions?

Dass ihm Gerechtigkeit lieber ist als Ungerechtigkeit? ||justice||||injustice That||justice|preferably|||injustice That he prefers justice to injustice?

Er sich Freude wünscht, statt Leid, und sich dessen auch bewusst ist? ||||||||||conscient| ||joy|wishes|instead|sorrow|||of it||aware| He wishes for joy instead of suffering and is also aware of it? Ele deseja alegria em vez de sofrimento e também tem consciência disso?

Wäre er dann menschlich genug? |||human| Would he then be human enough?

Viele Forscher glauben, dass es einen explosionsartigen ||||||de manière explosive |researchers|||||explosive Many researchers believe that there is an explosive

technologischen Fortschritt geben wird, technological|progress|give| technological progress will be

wenn künstliche Intelligenzen erst selbstständig lernen quand||intelligences artificielles||de manière autonome| ||intelligences||independently| when artificial intelligence learns independently

und KIs bauen, die noch intelligenter sind als sie selbst. |IA|||||||| |who|build|||more intelligent|||| and build AIs even smarter than themselves.

Dann werden wir kaum mehr kontrollieren können, |||barely||| Then we will hardly be able to control

wie Roboter programmiert sind. ||programmés| ||programmed| how robots are programmed.

Was, wenn eine KI es notwendig findet, |||||nécessaire| |||AI||necessary|finds What if an AI finds it necessary

Roboter mit Schmerzempfinden zu programmieren, ||sensibilité à la douleur|| ||pain perception|| programming robots with pain perception,

wie es die Evolutionsbiologie für die meisten Lebewesen notwendig fand? |||biologie évolutive|||||nécessaire| |||evolutionary biology|||most|living beings|necessary|found as evolutionary biology found necessary for most living beings? como a biologia evolutiva achou necessário para a maioria dos seres vivos?

Sollten Roboter dann auch Rechte haben? Should robots then also have rights?

Aber vielleicht sollten wir uns auch weniger sorgen, |||we|||less|worry But maybe we should worry less

welche Gefahr solche superintelligenten Roboter |||robots superintelligents| |danger|such|superintelligent| what danger such super intelligent robots

für uns bedeuten, und mehr, welche Gefahr wir für sie wären. ||mean||||danger|||| mean to us, and more what danger we would be to them.

Die ganze menschliche Identität |whole|human|identity All human identity

stützt sich auf die Idee unserer Außerordentlichkeit. se base||||||exceptionnalité leans||||idea||extraordinariness is based on the idea of our excellence. é baseado na ideia de nossa extraordinária.

Auf den Gedanken, dass wir einzigartige Schneeflöckchen sind, |||||uniques|flocons de neige| ||thoughts|||unique|snowflakes| On the thought that we are unique snowflakes,

die das Recht haben, die Welt zu beherrschen. |||||||dominer |||||||to dominate who have the right to rule the world.

Im Lauf der Geschichte haben Menschen schon oft In the|course||history|||| Throughout history, people have often

anderen Lebewesen die Leidensfähigkeit abgesprochen. |||capacité de souffrir|refusé à |||ability to suffer|denied denied other living beings the ability to suffer. negou a capacidade de sofrer de outros seres vivos.

Noch im Zeitalter der Aufklärung hat René Descartes etwa behauptet, ||Âge||Lumières||René Descartes|Descartes|| ||age||enlightenment||René|Descartes||claimed Even in the Age of Enlightenment, René Descartes claimed that

dass Tiere nur Automaten seien, quasi Roboter. that|animals||machines|are|quasi| that animals are just automata, robots, so to speak.

Einem Hasen wehzutun wäre dann moralisch etwa so verwerflich, ||||||||осуждаемо |faire du mal|faire du mal|||moralement|||moralement répréhensible |hare|harming|||morally|||reprehensible Hurting a rabbit would then be about as morally reprehensible as Machucar um coelho seria moralmente repreensível

wie einen Teddy zu schlagen. ||nounours|| ||teddy||to hit like hitting a teddy.

Und die größten Verbrechen an der Menschheit |||crimes||| |||crimes|||humanity And the greatest crimes against humanity

wurden oft genau damit gerechtfertigt, ||||ont souvent justifié |||thereby|justified were often justified precisely by eram frequentemente justificados precisamente por

dass die Opfer eher Tiere seien, als zivilisierte Menschen. |||||||civilisés| ||victims|rather||are|than|civilized|humans that the victims are animals rather than civilized people. que as vítimas são mais animais do que pessoas civilizadas.

Problematischerweise haben wir auch ein wirtschaftliches Interesse daran, Malheureusement, nous avons|||||intérêt économique|| Unfortunately|||||economic|| The problem is that we also have an economic interest in

Robotern keine Rechte zuzusprechen. ne pas accorder|||accorder à robots|||grant not grant rights to robots.

Es liegt grenzenloses wirtschaftliches Potenzial darin, ||potentiel économique illimité|économique|| ||limitless|economic|| There is limitless economic potential in

empfindungsfähigen KIs unseren Willen aufzuzwingen. "capables de ressentir"||||imposer à sentient||||impose imposing our will on sentient AIs. impondo nossa vontade sobre IAs sencientes.

Vielleicht sogar durch einprogrammierte Folter. |||torture programmée|torture programmée |even||programmed|torture Maybe even through programmed torture. Talvez até tortura programada.

Es wäre schließlich auch nicht das erste Mal. ||after all||||| After all, it wouldn't be the first time either.

Auch andere Menschen haben wir schon mittels Gewalt |||||||par la force ||||||by means of|violence We also have other people through violence Já temos outras pessoas através da violência

zum Arbeiten gezwungen. ||forcé à travailler ||forced forced to work.

An ideologischen Rechtfertigungen dafür hat es noch nie gemangelt. |justifications idéologiques|justifications idéologiques||||||n'a jamais manqué |ideological|justifications||||||lacked There has never been a lack of ideological justifications for this. Nunca faltaram justificativas ideológicas para isso.

Sklavenbesitzer behaupteten, dass die Sklaverei den Sklaven diene, propriétaires d'esclaves|prétendaient|||esclavage|||servent à slave owner|claimed|||slavery||slaves|serve Slave owners claimed that slavery served the slaves, Proprietários de escravos afirmavam que a escravidão servia aos escravos,

weil sie dadurch ein Dach über dem Kopf hätten ||thereby||roof|||head| because it would give them a roof over their heads porque isso lhes daria um teto sobre suas cabeças

und zum Christentum bekehrt würden. ||au christianisme|convertis au christianisme| ||Christianity|converted| and converted to Christianity.

Männer, die das Frauenwahlrecht verhindern wollten, behaupteten, |||droit de vote|||prétendaient que |||women's suffrage|prevent||claimed Men who wanted to block women's suffrage claimed Homens que queriam impedir o sufrágio feminino reivindicaram

Frauen würden schwierige Entscheidungen ||difficult|decisions Women would make difficult decisions Mulheres fariam escolhas difíceis

gerne den Männern überlassen. |||to leave gladly left to the men. alegremente deixado para os homens.

Landwirte rechtfertigen das Schlachten für unsere Ernährung |justifier||abattage||| farmers|justify||slaughtering|||nutrition Farmers justify slaughtering for our food Agricultores justificam o abate para nossa dieta

damit, dass sie die Tiere vorher füttern und pflegen. ||||||||soigner ||||||feed||care for by feeding and caring for the animals beforehand. para que eles alimentem e cuidem dos animais de antemão.

Sollten Roboter empfindungsfähig werden, ||devraient devenir sensibles| ||capable of feeling| Should robots become sentient,

werden alle, die ihnen Rechte vorenthalten wollen, |||||лишать прав| |||||refuser des droits| |||||withheld| will all those who want to deny them rights todos os que desejam reter seus direitos

genug Argumente finden. enough|arguments| find enough arguments.

Vor allem jene, die daraus einen Profit schlagen können. ||||||bénéfice|| ||those|||a|profit|make| Especially those who can make a profit from it.

Künstliche Intelligenz konfrontiert uns mit schwierigen Fragen ||confronte|||| ||confronts|||difficult| Artificial intelligence confronts us with difficult questions

philosophischer Grenzen. limites philosophiques| philosophical|boundaries philosophical boundaries.

Fragen wir, ob Roboter ein Bewusstsein haben |||||consciousness| Let's ask if robots are conscious

oder einen Anspruch auf eigene Rechte, ||droit||| ||claim||own| or a claim to own rights,

stellen wir damit auch ganz grundlegende Fragen, wie: |||||fondamentales|| pose|||||fundamental|| we also ask very basic questions, such as: também fazemos perguntas básicas como:

Was macht uns menschlich? |||human what makes us human

Wieso haben wir Rechte verdient? Why do we deserve rights?

Ganz unabhängig von unserer Meinung werden diese Fragen |indépendamment|||||| |independent|||opinion||| These questions will be completely independent of our opinion Essas questões se tornam completamente independentes de nossa opinião

in der nahen Zukunft wohl nach einer Antwort verlangen. ||near|future|probably|for|||demand may require an answer in the near future.

Was sollen wir tun, What should we do,

wenn Roboter anfangen, Rechte einzufordern? ||||revendiquer ||||to demand when robots start demanding rights? quando os robôs começam a reivindicar direitos?

(Vogelgezwitscher) birdsong