From recruitment and healthcare to everyday decisions, AI is increasingly influencing choices that affect people’s lives. But what happens when those decisions cause harm? Should responsibility lie with the person using the technology, the organisation that introduced it or the company that developed it? Explore six perspectives on human oversight, accountability and why using AI doesn’t necessarily mean handing over responsibility.
BEFORE YOU READ...
If an AI makes the wrong decision, whose fault is it?
Imagine a company uses AI to screen job applications and unfairly rejects a qualified candidate. Should the responsibility lie with the AI developer, the company using the system or the person who approved the decision? Could more than one party be responsible?
Explore Different Perspectives
Discover six perspectives on accountability, from individual responsibility and human oversight to the roles of organisations, developers and legal frameworks.
Aketx Mate — AI is a tool, not an excuse: Why we must take responsibility for our decisions
Læs på dansk (DK)
Jeg mener, at ansvaret bør ligge hos brugeren. På den ene side er det vigtigt at huske på, at kunstig intelligens skal hjælpe os, og at vi ikke bør stole blindt på den. I den forbindelse har vi mennesker også et ansvar for at sætte os ind i AI og dens potentielle ulemper og begrænsninger. Derfor er det op til os at forholde os kritisk til det, AI foreslår, og betragte den som et værktøj snarere end en uundværlig del af vores liv, uanset hvor nyttig den måtte være. Derfor skal vi, når vi træffer bestemte beslutninger – både i privatlivet og i arbejdslivet – være bevidste om det ansvar, vores valg indebærer. Hvis beslutninger baseret på AI viser sig at være skadelige, bør vi ikke bruge kunstig intelligens som en undskyldning. I stedet skal vi tage ansvar, forsøge at udbedre eventuelle skader og lære af erfaringerne, så vi kan handle bedre i fremtiden.Auf Deutsch lesen (DE)
Ich bin der Meinung, dass die Verantwortung beim Nutzer liegen sollte. Einerseits ist es wichtig, sich bewusst zu machen, dass künstliche Intelligenz uns unterstützen soll und dass wir uns nicht blind auf sie verlassen dürfen. In diesem Sinne sind wir Menschen auch dafür verantwortlich, uns über KI sowie ihre möglichen Nachteile und Grenzen zu informieren. Deshalb liegt es an uns, die Vorschläge der KI kritisch zu hinterfragen und sie als Werkzeug zu betrachten, statt sie als unverzichtbaren Bestandteil unseres Lebens anzusehen, so hilfreich sie auch sein mag. Aus diesem Grund müssen wir uns bei bestimmten Entscheidungen – sei es im privaten oder beruflichen Kontext – der Verantwortung bewusst sein, die unsere Entscheidungen mit sich bringen. Wenn sich Entscheidungen auf Grundlage von KI als schädlich erweisen, sollten wir künstliche Intelligenz nicht als Ausrede benutzen. Stattdessen müssen wir Verantwortung übernehmen, versuchen, entstandene Schäden wiedergutzumachen, und aus den Erfahrungen für die Zukunft lernen.Leer en español (ES)
Creo que la responsabilidad debe recaer en el usuario. Por un lado, es importante tener presente que la inteligencia artificial está pensada para ayudarnos, no para que dependamos de ella ciegamente. En este sentido, las personas también somos responsables de informarnos sobre la IA y sus posibles inconvenientes y limitaciones. Por tanto, nos corresponde aplicar un filtro crítico a lo que propone la IA y considerarla una herramienta, en lugar de una parte esencial de nuestras vidas, por muy útil que pueda resultar. Por este motivo, al tomar determinadas decisiones, ya sea en el ámbito personal o profesional, debemos ser conscientes de la responsabilidad que implican nuestras elecciones. Del mismo modo, si las decisiones basadas en la IA resultan perjudiciales, debemos evitar utilizar la inteligencia artificial como excusa y, en su lugar, asumir la responsabilidad, actuar para reparar cualquier daño causado y aprender de la experiencia de cara al futuro.Прочетете на български (BG)
Смятам, че отговорността трябва да бъде на потребителя. От една страна, важно е да помним, че изкуственият интелект е предназначен да ни помага, а не да разчитаме сляпо на него. В този смисъл ние, хората, също носим отговорност да се информираме за ИИ и неговите потенциални недостатъци и ограничения. Затова от нас зависи да подхождаме критично към предложенията на ИИ и да го разглеждаме като инструмент, а не като незаменима част от живота ни, независимо колко полезен може да бъде той. Поради тази причина, когато вземаме определени решения – независимо дали в личен или професионален контекст – трябва да осъзнаваме отговорността, която произтича от нашия избор. Ако решенията, основани на ИИ, се окажат вредни, не бива да използваме изкуствения интелект като оправдание. Вместо това трябва да поемем отговорност, да предприемем действия за поправяне на причинените вреди и да се поучим от опита си за в бъдеще.
Eva Gruber — When AI gets it wrong: Why organisations need human oversight
AI is a tool that learns from existing data. If that data contains prejudices or inequalities, AI-driven decisions may also cause harm.
Responsibility should lie with the people and institutions that support these tools and establish the rules for their use, such as companies and public authorities. AI itself cannot take responsibility, so decision-makers must remain accountable. It is therefore important to ensure human oversight, establish clear legal rules and make AI-driven decisions understandable and transparent.