As AI becomes more powerful and more deeply embedded in everyday life, the rules guiding its development become increasingly important. Should the priority be transparency, human oversight, accountability, safety or open access? Our contributors propose different principles, but many return to the same fundamental question: how do we make sure AI remains under meaningful human responsibility?
BEFORE YOU READ...
If you could write one global rule for AI, what would it be?
Imagine that governments, researchers and technology companies around the world had to follow one principle when creating or using AI. Would you prioritise safety, openness, transparency, human control—or something else entirely? Why?
Explore Different Perspectives
Discover nine proposals for guiding AI development, from human accountability and transparency to responsible adoption, data quality and limits on military use.
Thomas Bolander — Don’t replace humans unless AI can genuinely do the job better
I don’t think I have an answer to that. I would say that it’s somehow when we’re using AI to automate human behaviour or decision-making, then I would say that the guiding principle should be at least as good as what it replaces on all dimensions and so don’t make a robot or an algorithm take positions or be your general practitioner or whatever unless it actually works better in all aspects. And what do I mean in all aspects? So that also includes explainability for instance why should I have an AI doctor who more often gives the right diagnosis and the right medication, if I cannot ask my AI doctor for an explanation and if I cannot have the type of dialogue with my AI doctor then I would have with my general practitioner. So somehow don’t underestimate the complication of what we humans do in the dimensions of problem solving. And also driverless cars, they should also be better than human drivers. Of course we want to make experiments with AI we want to learn etc. But if you want a principle for adoption it should be that we’re only succeeding when these driverless cars are better than humans and on all aspects of driving. It also means to avoid these situations where driverless cars misinterpret traffic situations that humans would never misinterpret, like these cases with Tesla’s pilots that mistook a trailer truck for a road sign. Stuff like that. It could be that Tesla autopilots on average are more precise and make less mistakes than humans but they should not make mistakes in the particular cases where humans would never make a mistake. So it has to be better in all parameters, not just somehow in overall statistics that we look at. Of course this makes it extremely challenging and somehow I’m demanding a lot from AI from saying this, but I think that it’s the right thing, because we don’t want to AI backlash where people say one day, it’s worse than what we had or it’s somehow making the world the worst place, that would be so silly. Then it’s better to wait and somehow develop things a bit more slowly and more carefully. That would be it. We are humans, it’s us who develop these tools. We want to use them together with humans and unless they can somehow live up to that, then we should not use them.
Thomas Bolander, Denmark, AI expert (professor at DTU)
Læs på dansk (DK)
Jeg tror ikke, at jeg har et svar på det. Jeg vil sige, at når vi bruger AI til at automatisere menneskelig adfærd eller beslutningstagning, bør det grundlæggende princip være, at teknologien som minimum skal være lige så god som det, den erstatter, på alle områder. Derfor bør vi ikke lade en robot eller en algoritme træffe beslutninger eller fungere som vores praktiserende læge eller lignende, medmindre den faktisk fungerer bedre i alle henseender. Og hvad mener jeg med alle henseender? Det omfatter for eksempel også muligheden for at forklare beslutninger. Hvorfor skulle jeg have en AI-læge, der oftere stiller den rigtige diagnose og ordinerer den rigtige medicin, hvis jeg ikke kan bede min AI-læge om en forklaring, og hvis jeg ikke kan have den samme form for dialog med den, som jeg ville have med min praktiserende læge? Vi skal altså ikke undervurdere kompleksiteten af det, vi mennesker gør, når vi løser problemer. Og selvkørende biler bør også være bedre end menneskelige bilister. Selvfølgelig vil vi gerne eksperimentere med AI, lære mere og så videre. Men hvis man skal opstille et princip for at tage teknologien i brug, bør det være, at vi først har succes, når disse selvkørende biler er bedre end mennesker på alle aspekter af bilkørsel. Det betyder også, at vi skal undgå situationer, hvor selvkørende biler fejlfortolker trafiksituationer, som mennesker aldrig ville misforstå, som i de tilfælde, hvor Teslas autopilotsystemer forvekslede en lastbil med anhænger med et vejskilt. Den slags situationer. Det kan godt være, at Teslas autopilotsystemer i gennemsnit er mere præcise og begår færre fejl end mennesker, men de bør ikke begå fejl i netop de situationer, hvor mennesker aldrig ville begå en fejl. Teknologien skal altså være bedre på alle parametre og ikke kun i de samlede statistikker, vi ser på. Selvfølgelig gør det opgaven ekstremt udfordrende, og jeg stiller på en måde meget store krav til AI ved at sige dette. Men jeg mener, at det er det rigtige, for vi ønsker ikke en modreaktion mod AI, hvor folk en dag siger, at teknologien er dårligere end det, vi havde før, eller at den gør verden til et værre sted. Det ville være så tåbeligt. Så er det bedre at vente og udvikle tingene lidt langsommere og mere omhyggeligt. Det var egentlig det. Vi er mennesker, og det er os, der udvikler disse værktøjer. Vi ønsker at bruge dem sammen med mennesker, og medmindre de kan leve op til det, bør vi ikke bruge dem.Thomas Bolander, Danmark, AI-ekspert (professor ved DTU)
Auf Deutsch lesen (DE)
Ich glaube nicht, dass ich darauf eine Antwort habe. Ich würde sagen, dass beim Einsatz von KI zur Automatisierung menschlichen Verhaltens oder menschlicher Entscheidungsprozesse der Grundsatz gelten sollte, dass sie in jeder Hinsicht mindestens so gut sein muss wie das, was sie ersetzt. Deshalb sollten wir keinen Roboter und keinen Algorithmus Entscheidungen treffen oder die Rolle unseres Hausarztes übernehmen lassen, wenn die Technologie nicht tatsächlich in allen Aspekten besser funktioniert. Und was meine ich mit allen Aspekten? Dazu gehört beispielsweise auch die Erklärbarkeit. Warum sollte ich einen KI-Arzt haben wollen, der häufiger die richtige Diagnose stellt und die richtigen Medikamente verschreibt, wenn ich meinen KI-Arzt nicht um eine Erklärung bitten kann und nicht die Art von Gespräch mit ihm führen kann, die ich mit meinem Hausarzt führen würde? Wir sollten also die Komplexität dessen, was wir Menschen bei der Problemlösung leisten, nicht unterschätzen. Auch selbstfahrende Autos sollten besser sein als menschliche Fahrer. Natürlich wollen wir mit KI experimentieren, dazulernen und so weiter. Aber wenn man einen Grundsatz für die Einführung dieser Technologie formulieren möchte, dann sollte er lauten, dass wir erst dann erfolgreich sind, wenn selbstfahrende Autos in sämtlichen Aspekten des Fahrens besser sind als Menschen. Das bedeutet auch, Situationen zu vermeiden, in denen selbstfahrende Autos Verkehrssituationen falsch interpretieren, die Menschen niemals missverstehen würden, wie etwa jene Fälle, in denen Teslas Autopilotsysteme einen Sattelzug mit einem Verkehrsschild verwechselten. Solche Dinge. Es kann durchaus sein, dass Teslas Autopilotsysteme im Durchschnitt präziser sind und weniger Fehler machen als Menschen. Sie sollten aber gerade in den Situationen keine Fehler machen, in denen Menschen niemals einen Fehler machen würden. Die Technologie muss also bei allen Parametern besser sein und nicht nur in den Gesamtstatistiken, die wir betrachten. Natürlich macht das die Aufgabe extrem anspruchsvoll, und mit dieser Forderung verlange ich gewissermaßen sehr viel von der KI. Aber ich denke, dass es der richtige Ansatz ist, denn wir wollen keine Gegenreaktion auf KI, bei der die Menschen eines Tages sagen, dass sie schlechter ist als das, was wir vorher hatten, oder dass sie die Welt zu einem schlechteren Ort macht. Das wäre wirklich unsinnig. Dann ist es besser, zu warten und die Dinge etwas langsamer und sorgfältiger zu entwickeln. Das wäre meine Antwort. Wir sind Menschen, und wir sind diejenigen, die diese Werkzeuge entwickeln. Wir wollen sie gemeinsam mit Menschen einsetzen, und solange sie diesen Anforderungen nicht gerecht werden können, sollten wir sie nicht verwenden.Thomas Bolander, Dänemark, KI-Experte (Professor an der DTU)
Leer en español (ES)
No creo que tenga una respuesta para eso. Diría que, cuando utilizamos la IA para automatizar el comportamiento humano o la toma de decisiones, el principio fundamental debería ser que la tecnología fuera, como mínimo, tan buena como aquello a lo que sustituye en todos los aspectos. Por tanto, no deberíamos permitir que un robot o un algoritmo tome decisiones, actúe como nuestro médico de cabecera o desempeñe cualquier otra función similar, a menos que realmente funcione mejor en todos los sentidos. ¿Y qué quiero decir con todos los sentidos? Eso incluye, por ejemplo, la capacidad de explicar sus decisiones. ¿Por qué querría tener un médico de IA que acertara más a menudo con el diagnóstico y la medicación si no pudiera pedirle una explicación ni mantener con él el mismo tipo de conversación que tendría con mi médico de cabecera? Por eso, no debemos subestimar la complejidad de lo que hacemos los seres humanos a la hora de resolver problemas. Y los coches autónomos también deberían ser mejores que los conductores humanos. Por supuesto, queremos experimentar con la IA, aprender y demás. Pero, si queremos establecer un principio para adoptar esta tecnología, debería ser que solo habremos tenido éxito cuando esos coches autónomos sean mejores que los humanos en todos los aspectos de la conducción. Esto también significa evitar situaciones en las que los coches autónomos interpreten incorrectamente circunstancias del tráfico que una persona nunca malinterpretaría, como aquellos casos en los que los sistemas Autopilot de Tesla confundieron un camión con remolque con una señal de tráfico. Ese tipo de cosas. Puede que los sistemas Autopilot de Tesla sean, de media, más precisos y cometan menos errores que los seres humanos, pero no deberían equivocarse precisamente en aquellos casos en los que una persona nunca cometería un error. Por tanto, la tecnología tiene que ser mejor en todos los parámetros, no solo en las estadísticas generales que analizamos. Evidentemente, esto hace que el reto sea extremadamente difícil y, al decirlo, estoy exigiendo mucho a la IA. Pero creo que es lo correcto, porque no queremos provocar una reacción de rechazo hacia la IA en la que la gente acabe diciendo algún día que es peor que lo que teníamos antes o que está convirtiendo el mundo en un lugar peor. Eso sería absurdo. En ese caso, sería preferible esperar y desarrollar las cosas un poco más despacio y con mayor cuidado. Eso sería todo. Somos seres humanos y somos nosotros quienes desarrollamos estas herramientas. Queremos utilizarlas junto con las personas y, si no pueden estar a la altura de esas exigencias, entonces no deberíamos utilizarlas.Thomas Bolander, Dinamarca, experto en IA (profesor en la DTU)
Прочетете на български (BG)
Не мисля, че имам отговор на този въпрос. Бих казал, че когато използваме ИИ, за да автоматизираме човешкото поведение или вземането на решения, водещият принцип трябва да бъде технологията да е поне толкова добра, колкото това, което замества, във всички отношения. Затова не бива да позволяваме на робот или алгоритъм да взема решения, да изпълнява ролята на личния ни лекар или нещо подобно, освен ако действително не се справя по-добре във всички аспекти. А какво имам предвид под всички аспекти? Това включва например и възможността решенията да бъдат обяснени. Защо бих искал да имам лекар с ИИ, който по-често поставя правилната диагноза и предписва правилните лекарства, ако не мога да го помоля за обяснение и ако не мога да водя с него същия вид разговор, какъвто бих водил с личния си лекар? Затова не бива да подценяваме сложността на това, което ние, хората, правим при решаването на проблеми. Също така автономните автомобили трябва да бъдат по-добри от човешките шофьори. Разбира се, искаме да експериментираме с ИИ, да се учим и така нататък. Но ако трябва да определим принцип за внедряването на тази технология, той трябва да бъде, че постигаме успех едва когато автономните автомобили станат по-добри от хората във всички аспекти на шофирането. Това означава също да се избягват ситуации, в които автономните автомобили тълкуват погрешно пътни обстоятелства, които хората никога не биха разбрали неправилно, като случаите, при които системите Autopilot на Tesla са объркали камион с ремарке с пътен знак. Подобни ситуации. Възможно е системите Autopilot на Tesla средно да са по-точни и да допускат по-малко грешки от хората, но не бива да грешат точно в онези случаи, в които човек никога не би допуснал грешка. Следователно технологията трябва да бъде по-добра по всички показатели, а не само според общата статистика, която разглеждаме. Разбира се, това прави задачата изключително трудна и с тези думи в известен смисъл поставям много високи изисквания към ИИ. Но смятам, че това е правилният подход, защото не искаме да предизвикаме негативна реакция срещу ИИ, при която хората един ден да кажат, че той е по-лош от това, което сме имали преди, или че превръща света в по-лошо място. Това би било наистина нелепо. Тогава е по-добре да изчакаме и да разработваме технологиите малко по-бавно и по-внимателно. Това е моят отговор. Ние сме хора и именно ние разработваме тези инструменти. Искаме да ги използваме заедно с хората и ако те не могат да отговорят на тези изисквания, не бива да ги използваме.Thomas Bolander, Дания, експерт по ИИ (професор в DTU)
Chakraborty Avishek — Challenge the algorithm instead of trusting it blindly
AI governance should not be limited to officials like governments, engineers, or corporations because artificial intelligence has an impact on everyone’s daily lives. Ordinary folks can and should influence how AI is built, utilized, and regulated. One important way citizens can participate is through public consultations and surveys, organized by governments or international organizations. These allow people to share concerns about privacy, fairness, or job security, which policymakers can then incorporate into laws and guidelines. Education and awareness also play an important role. Citizens who take the effort to grasp how AI works, even at a basic level, are better prepared to question unfair or harmful applications of technology. Schools, universities, and public workshops can encourage individuals to participate in discussions rather than delegating choices to experts. Informed citizens can also reject inaccurate narratives that characterize AI as misleading or unmanageable. Citizens can impact AI governance through their daily decisions. Choosing privacy conscious services,refusing apps with questionable data practices, and supporting transparent technology businesses all send a significant market signal. When enough customers care about ethics and fairness, businesses are obliged to adjust. In this sense, AI governance becomes a shared duty in which individuals participate actively rather than passively. My suggestion regarding the use of Ai – The focus should be more on challenging the algorithm rather than blindly trusting it.
Chakraborty Avishek, Denmark, Master student, AI Enthusiast
Læs på dansk (DK)
Styringen og reguleringen af AI bør ikke være forbeholdt myndigheder, ingeniører eller virksomheder, fordi kunstig intelligens påvirker alles hverdag. Almindelige borgere kan og bør have indflydelse på, hvordan AI udvikles, anvendes og reguleres. En vigtig måde, hvorpå borgerne kan deltage, er gennem offentlige høringer og spørgeskemaundersøgelser, som arrangeres af regeringer eller internationale organisationer. Her kan folk give udtryk for deres bekymringer om privatlivets fred, retfærdighed eller jobsikkerhed, som beslutningstagerne derefter kan tage højde for i love og retningslinjer. Uddannelse og oplysning spiller også en vigtig rolle. Borgere, der gør en indsats for at forstå, hvordan AI fungerer, selv på et grundlæggende niveau, er bedre rustet til at stille spørgsmål ved urimelige eller skadelige anvendelser af teknologien. Skoler, universiteter og offentlige workshops kan opfordre mennesker til at deltage i diskussioner frem for at overlade beslutningerne til eksperter. Velinformerede borgere kan også afvise misvisende fortællinger, der fremstiller AI som vildledende eller umulig at kontrollere. Borgerne kan påvirke styringen af AI gennem deres daglige valg. At vælge tjenester, der respekterer privatlivets fred, fravælge apps med tvivlsom håndtering af data og støtte gennemsigtige teknologivirksomheder sender tilsammen et tydeligt signal til markedet. Når tilstrækkeligt mange kunder lægger vægt på etik og retfærdighed, bliver virksomhederne nødt til at tilpasse sig. På den måde bliver styringen af AI et fælles ansvar, hvor den enkelte deltager aktivt frem for passivt. Mit råd om brugen af AI er, at vi bør fokusere mere på at udfordre algoritmen i stedet for blindt at stole på den.Chakraborty Avishek, Danmark, kandidatstuderende, AI-entusiast
Auf Deutsch lesen (DE)
Die Steuerung und Regulierung von KI sollte nicht allein Regierungen, Ingenieuren oder Unternehmen überlassen werden, denn künstliche Intelligenz beeinflusst den Alltag aller Menschen. Auch gewöhnliche Bürgerinnen und Bürger können und sollten mitbestimmen, wie KI entwickelt, eingesetzt und reguliert wird. Eine wichtige Möglichkeit zur Beteiligung bieten öffentliche Konsultationen und Umfragen, die von Regierungen oder internationalen Organisationen durchgeführt werden. Dadurch können Menschen ihre Bedenken hinsichtlich Datenschutz, Fairness oder Arbeitsplatzsicherheit äußern, die politische Entscheidungsträger anschließend in Gesetze und Richtlinien einfließen lassen können. Auch Bildung und Aufklärung spielen eine wichtige Rolle. Bürgerinnen und Bürger, die sich bemühen, zumindest die Grundlagen der Funktionsweise von KI zu verstehen, sind besser darauf vorbereitet, ungerechte oder schädliche Anwendungen der Technologie kritisch zu hinterfragen. Schulen, Universitäten und öffentliche Workshops können Menschen dazu ermutigen, sich an Diskussionen zu beteiligen, anstatt Entscheidungen ausschließlich Fachleuten zu überlassen. Informierte Bürgerinnen und Bürger können außerdem irreführende Darstellungen zurückweisen, die KI als täuschend oder unkontrollierbar beschreiben. Auch durch ihre alltäglichen Entscheidungen können Menschen Einfluss auf die KI-Governance nehmen. Die Wahl datenschutzbewusster Dienste, die Ablehnung von Apps mit fragwürdigen Datenpraktiken und die Unterstützung transparenter Technologieunternehmen senden ein deutliches Signal an den Markt. Wenn genügend Kundinnen und Kunden Wert auf Ethik und Fairness legen, müssen Unternehmen sich entsprechend anpassen. In diesem Sinne wird KI-Governance zu einer gemeinsamen Verantwortung, an der sich Einzelpersonen aktiv beteiligen, statt lediglich passive Beobachter zu bleiben. Mein Vorschlag für den Umgang mit KI lautet: Wir sollten uns stärker darauf konzentrieren, den Algorithmus kritisch zu hinterfragen, anstatt ihm blind zu vertrauen.Chakraborty Avishek, Dänemark, Masterstudent, KI-Enthusiast
Leer en español (ES)
La gobernanza de la IA no debería limitarse a los gobiernos, los ingenieros o las empresas, porque la inteligencia artificial tiene un impacto en la vida cotidiana de todas las personas. Los ciudadanos de a pie pueden y deben influir en cómo se desarrolla, utiliza y regula la IA. Una forma importante de participar es mediante consultas públicas y encuestas organizadas por gobiernos u organizaciones internacionales. Estas permiten expresar preocupaciones relacionadas con la privacidad, la equidad o la seguridad laboral, que posteriormente los responsables políticos pueden incorporar a las leyes y directrices. La educación y la concienciación también desempeñan un papel importante. Los ciudadanos que se esfuerzan por comprender cómo funciona la IA, aunque sea a un nivel básico, están mejor preparados para cuestionar las aplicaciones injustas o perjudiciales de esta tecnología. Las escuelas, las universidades y los talleres abiertos al público pueden animar a las personas a participar en los debates en lugar de dejar todas las decisiones en manos de los expertos. Los ciudadanos informados también pueden rechazar narrativas inexactas que presentan la IA como engañosa o imposible de controlar. Además, las personas pueden influir en la gobernanza de la IA mediante sus decisiones cotidianas. Elegir servicios que respeten la privacidad, rechazar aplicaciones con prácticas cuestionables de tratamiento de datos y apoyar a empresas tecnológicas transparentes envía una señal importante al mercado. Cuando suficientes consumidores se preocupan por la ética y la equidad, las empresas se ven obligadas a adaptarse. En este sentido, la gobernanza de la IA se convierte en una responsabilidad compartida en la que las personas participan activamente en lugar de adoptar un papel pasivo. Mi recomendación sobre el uso de la IA es que deberíamos centrarnos más en cuestionar el algoritmo que en confiar ciegamente en él.Chakraborty Avishek, Dinamarca, estudiante de máster, entusiasta de la IA
Прочетете на български (BG)
Управлението и регулирането на ИИ не бива да бъдат ограничени само до правителствата, инженерите или компаниите, защото изкуственият интелект оказва влияние върху ежедневието на всички хора. Обикновените граждани могат и трябва да влияят върху начина, по който ИИ се разработва, използва и регулира. Един важен начин за участие на гражданите са обществените консултации и анкети, организирани от правителства или международни организации. Те позволяват на хората да споделят притесненията си относно неприкосновеността на личния живот, справедливостта или сигурността на работните места, които след това политиците могат да вземат предвид при изготвянето на закони и насоки. Образованието и повишаването на осведомеността също играят важна роля. Гражданите, които полагат усилия да разберат как работи ИИ, дори на основно ниво, са по-добре подготвени да поставят под въпрос несправедливи или вредни приложения на технологията. Училищата, университетите и обществените обучения могат да насърчават хората да участват в дискусии, вместо да оставят решенията изцяло на експертите. Информираните граждани могат също да отхвърлят неточни твърдения, които представят ИИ като подвеждащ или невъзможен за контролиране. Гражданите могат да влияят върху управлението на ИИ и чрез ежедневните си решения. Изборът на услуги, които зачитат личната неприкосновеност, отказът от приложения със съмнителни практики за обработка на данни и подкрепата за прозрачни технологични компании изпращат важен сигнал към пазара. Когато достатъчно потребители държат на етиката и справедливостта, компаниите са принудени да се адаптират. В този смисъл управлението на ИИ се превръща в споделена отговорност, в която хората участват активно, вместо да остават пасивни. Моята препоръка относно използването на ИИ е да се съсредоточаваме повече върху критичното оспорване на алгоритъма, вместо да му се доверяваме сляпо.Chakraborty Avishek, Дания, студент в магистърска програма, ентусиаст в областта на ИИ
Mia Negru — Do no harm: Keep humans in control of high-impact decisions
If I could introduce one global principle to guide AI development, it would be: “Do no harm to humans,” combined with a mandatory human-in-the-loop requirement for high-impact decisions. Discussions about safe and ethical AI often lack clarity because societies do not universally agree on what “safe” or “ethical” means. However, a foundational commitment to preventing harm provides a practical starting point. AI systems must be designed and deployed in ways that minimize physical, psychological, economic, and societal harm.
Equally important is maintaining meaningful human oversight. Machines may outperform humans in statistical analysis or pattern recognition, but they operate within programmed parameters. High-stakes decisions, particularly in healthcare, law, public administration, and security should not be fully delegated to autonomous systems. A human must retain responsibility and final authority. Trust in AI systems depends on transparency, accountability, and oversight. People must feel secure that these systems will not act beyond human control. Embedding human supervision into governance frameworks reinforces both ethical responsibility and democratic legitimacy. Technology should augment human decision-making, not replace moral agency.
Mia Negru, Denmark, Denmark, Executive Director of Life With Artificials, AI Expert
Læs på dansk (DK)
Hvis jeg kunne indføre ét globalt princip til at styre udviklingen af AI, ville det være: »Gør ikke skade på mennesker«, kombineret med et obligatorisk krav om menneskelig involvering i beslutningsprocessen ved beslutninger med stor betydning. Diskussioner om sikker og etisk AI mangler ofte klarhed, fordi samfund verden over ikke er enige om, hvad »sikker« eller »etisk« betyder. Et grundlæggende engagement i at forebygge skade giver dog et praktisk udgangspunkt. AI-systemer skal designes og anvendes på måder, der minimerer fysisk, psykisk, økonomisk og samfundsmæssig skade. Det er lige så vigtigt at bevare et reelt menneskeligt tilsyn. Maskiner kan overgå mennesker inden for statistisk analyse eller mønstergenkendelse, men de arbejder inden for programmerede rammer. Beslutninger med store konsekvenser, især inden for sundhedsvæsenet, retsvæsenet, den offentlige forvaltning og sikkerhed, bør ikke overlades fuldstændigt til autonome systemer. Et menneske skal fortsat have ansvaret og den endelige beslutningsmyndighed. Tilliden til AI-systemer afhænger af gennemsigtighed, ansvarlighed og tilsyn. Mennesker skal kunne føle sig trygge ved, at disse systemer ikke handler uden for menneskelig kontrol. Ved at indarbejde menneskeligt tilsyn i rammerne for AI-styring styrkes både det etiske ansvar og den demokratiske legitimitet. Teknologien bør understøtte menneskers beslutningstagning, ikke erstatte menneskers evne til at træffe moralske valg.Mia Negru, Danmark, Danmark, administrerende direktør for Life With Artificials, AI-ekspert
Auf Deutsch lesen (DE)
Wenn ich einen einzigen globalen Grundsatz für die Entwicklung von KI einführen könnte, wäre es: „Menschen keinen Schaden zufügen“, verbunden mit der verpflichtenden Einbeziehung eines Menschen in den Entscheidungsprozess bei Entscheidungen mit weitreichenden Auswirkungen. Diskussionen über sichere und ethische KI mangelt es häufig an Klarheit, weil Gesellschaften weltweit keine einheitliche Vorstellung davon haben, was „sicher“ oder „ethisch“ bedeutet. Ein grundlegendes Bekenntnis zur Vermeidung von Schäden bietet jedoch einen praktischen Ausgangspunkt. KI-Systeme müssen so entwickelt und eingesetzt werden, dass körperliche, psychische, wirtschaftliche und gesellschaftliche Schäden minimiert werden. Ebenso wichtig ist die Aufrechterhaltung einer wirksamen menschlichen Aufsicht. Maschinen können Menschen bei statistischen Analysen oder der Mustererkennung übertreffen, arbeiten jedoch innerhalb programmierter Parameter. Entscheidungen mit weitreichenden Folgen, insbesondere im Gesundheitswesen, im Rechtswesen, in der öffentlichen Verwaltung und im Sicherheitsbereich, sollten nicht vollständig an autonome Systeme delegiert werden. Ein Mensch muss die Verantwortung und die endgültige Entscheidungsbefugnis behalten. Das Vertrauen in KI-Systeme hängt von Transparenz, Rechenschaftspflicht und Aufsicht ab. Die Menschen müssen darauf vertrauen können, dass diese Systeme nicht außerhalb menschlicher Kontrolle handeln. Die Verankerung menschlicher Aufsicht in den Governance-Rahmenbedingungen stärkt sowohl die ethische Verantwortung als auch die demokratische Legitimität. Technologie sollte die menschliche Entscheidungsfindung unterstützen und erweitern, nicht aber die menschliche Fähigkeit zu moralischem Handeln ersetzen.Mia Negru, Dänemark, Dänemark, Geschäftsführerin von Life With Artificials, KI-Expertin
Leer en español (ES)
Si pudiera introducir un principio global para orientar el desarrollo de la IA, sería: «No causar daño a los seres humanos», combinado con la obligación de mantener la intervención humana en las decisiones de alto impacto. Los debates sobre una IA segura y ética suelen carecer de claridad porque las sociedades no comparten una definición universal de lo que significa «seguro» o «ético». Sin embargo, un compromiso fundamental con la prevención de daños proporciona un punto de partida práctico. Los sistemas de IA deben diseñarse e implementarse de manera que minimicen los daños físicos, psicológicos, económicos y sociales. Igualmente importante es mantener una supervisión humana efectiva. Las máquinas pueden superar a los seres humanos en el análisis estadístico o el reconocimiento de patrones, pero funcionan dentro de parámetros programados. Las decisiones de gran trascendencia, especialmente en ámbitos como la sanidad, el derecho, la administración pública y la seguridad, no deberían delegarse por completo en sistemas autónomos. Una persona debe conservar la responsabilidad y la autoridad para tomar la decisión final. La confianza en los sistemas de IA depende de la transparencia, la rendición de cuentas y la supervisión. Las personas deben sentirse seguras de que estos sistemas no actuarán fuera del control humano. Incorporar la supervisión humana a los marcos de gobernanza refuerza tanto la responsabilidad ética como la legitimidad democrática. La tecnología debería ampliar y apoyar la capacidad humana para tomar decisiones, no sustituir la capacidad de las personas para actuar conforme a criterios morales.Mia Negru, Dinamarca, Dinamarca, directora ejecutiva de Life With Artificials, experta en IA
Прочетете на български (BG)
Ако можех да въведа един глобален принцип, който да ръководи развитието на ИИ, той би бил: „Не причинявай вреда на хората“, съчетан със задължително човешко участие в процеса на вземане на решения с голямо въздействие. Дискусиите за безопасен и етичен ИИ често страдат от липса на яснота, защото обществата по света нямат единно разбиране за това какво означава „безопасен“ или „етичен“. Въпреки това основният ангажимент за предотвратяване на вреди предоставя практическа отправна точка. Системите с ИИ трябва да бъдат проектирани и внедрявани по начини, които свеждат до минимум физическите, психологическите, икономическите и обществените вреди. Също толкова важно е да се запази ефективният човешки надзор. Машините могат да превъзхождат хората в статистическия анализ или разпознаването на закономерности, но работят в рамките на програмирани параметри. Решенията с големи последици, особено в здравеопазването, правото, публичната администрация и сигурността, не бива да бъдат изцяло делегирани на автономни системи. Човек трябва да запази отговорността и окончателните правомощия за вземане на решения. Доверието в системите с ИИ зависи от прозрачността, отчетността и надзора. Хората трябва да бъдат уверени, че тези системи няма да действат извън човешкия контрол. Включването на човешки надзор в рамките за управление на ИИ укрепва както етичната отговорност, така и демократичната легитимност. Технологиите трябва да подпомагат и разширяват човешките възможности за вземане на решения, а не да заместват способността на хората да действат според морални принципи.Mia Negru, Дания, Дания, изпълнителен директор на Life With Artificials, експерт по ИИ
Johannes Ganster — No AI without clear human responsibility
I would introduce a global guiding principle: Any AI must be demonstrably accountable to humans. Why is that in particular? Because many other problems of AI — from discrimination to manipulation to concentration of power — are exacerbated when systems operate without it being clear who is responsible, who can intervene, and according to what rules decisions are made. A very powerful AI is not only a technical tool, but a social influencing factor. The more it shapes the world of work, education, medicine, administration or public opinion, the more important it becomes that people retain the last legitimate control.
Accountability means in concrete terms: AI systems must be transparent enough to be audited; there must be clear responsibilities if damage occurs; and users must have the right to challenge decisions or demand human review. In addition, particularly powerful AI applications should not be developed solely according to efficiency or profit, but should be evaluated according to their benefits for dignity, freedom and social stability.
This principle would be so valuable because it is not hostile to innovation. It does not prohibit AI, but sets a framework: performance without responsibility is dangerous, performance with responsibility can be enormously useful. In this way, technology remains a means to human goals and does not itself become a benchmark.
In short, if I could only choose one rule, it would be this — No AI without clear human responsibility. It protects trust, democracy and human dignity and creates the basis for AI to enable progress without upsetting society.
Johannes Ganster, creative entrepreneur, Austria, AI Expert
Læs på dansk (DK)
Jeg ville indføre et globalt grundprincip: Enhver AI skal påviseligt kunne holdes ansvarlig over for mennesker. Hvorfor netop dette princip? Fordi mange andre problemer med AI — fra diskrimination og manipulation til koncentration af magt — bliver forværret, når systemer fungerer, uden at det er klart, hvem der har ansvaret, hvem der kan gribe ind, og hvilke regler beslutningerne træffes efter. En meget kraftfuld AI er ikke blot et teknisk værktøj, men også en faktor, der påvirker samfundet. Jo mere AI former arbejdslivet, uddannelse, sundhedsvæsenet, den offentlige forvaltning eller den offentlige opinion, desto vigtigere bliver det, at mennesker bevarer den endelige legitime kontrol. Ansvarlighed betyder helt konkret, at AI-systemer skal være tilstrækkeligt gennemsigtige til at kunne kontrolleres gennem revision; at ansvarsfordelingen skal være klar, hvis der opstår skade; og at brugerne skal have ret til at anfægte beslutninger eller kræve en menneskelig vurdering. Derudover bør særligt kraftfulde AI-anvendelser ikke udelukkende udvikles med fokus på effektivitet eller profit, men også vurderes ud fra deres bidrag til menneskelig værdighed, frihed og social stabilitet. Dette princip ville være særligt værdifuldt, fordi det ikke står i vejen for innovation. Det forbyder ikke AI, men fastlægger en ramme: Høj ydeevne uden ansvarlighed er farlig, mens høj ydeevne kombineret med ansvarlighed kan være enormt nyttig. På den måde forbliver teknologien et middel til at nå menneskelige mål og bliver ikke i sig selv målestokken for succes. Kort sagt, hvis jeg kun kunne vælge én regel, ville det være denne: Ingen AI uden et klart menneskeligt ansvar. Det beskytter tillid, demokrati og menneskelig værdighed og skaber grundlaget for, at AI kan muliggøre fremskridt uden at skabe ubalance i samfundet.Johannes Ganster, kreativ iværksætter, Østrig, AI-ekspert
Auf Deutsch lesen (DE)
Ich würde einen globalen Leitgrundsatz einführen: Jede KI muss nachweislich gegenüber Menschen rechenschaftspflichtig sein. Warum gerade dieser Grundsatz? Weil viele andere Probleme der KI — von Diskriminierung über Manipulation bis hin zur Machtkonzentration — verschärft werden, wenn Systeme arbeiten, ohne dass klar ist, wer verantwortlich ist, wer eingreifen kann und nach welchen Regeln Entscheidungen getroffen werden. Eine sehr leistungsfähige KI ist nicht nur ein technisches Werkzeug, sondern auch ein gesellschaftlicher Einflussfaktor. Je stärker sie die Arbeitswelt, die Bildung, die Medizin, die Verwaltung oder die öffentliche Meinung prägt, desto wichtiger wird es, dass Menschen die letzte legitime Kontrolle behalten. Rechenschaftspflicht bedeutet konkret: KI-Systeme müssen ausreichend transparent sein, damit sie überprüft und auditiert werden können; bei Schäden muss klar geregelt sein, wer die Verantwortung trägt; und Nutzerinnen und Nutzer müssen das Recht haben, Entscheidungen anzufechten oder eine menschliche Überprüfung zu verlangen. Darüber hinaus sollten besonders leistungsfähige KI-Anwendungen nicht ausschließlich nach Effizienz oder Gewinn entwickelt werden, sondern auch danach bewertet werden, welchen Nutzen sie für Menschenwürde, Freiheit und gesellschaftliche Stabilität bieten. Dieser Grundsatz wäre besonders wertvoll, weil er Innovation nicht entgegensteht. Er verbietet KI nicht, sondern setzt einen Rahmen: Leistungsfähigkeit ohne Verantwortung ist gefährlich, Leistungsfähigkeit mit Verantwortung kann dagegen enorm nützlich sein. Auf diese Weise bleibt Technologie ein Mittel zur Erreichung menschlicher Ziele und wird nicht selbst zum Maßstab. Kurz gesagt: Wenn ich nur eine einzige Regel wählen könnte, wäre es diese — Keine KI ohne klare menschliche Verantwortung. Sie schützt Vertrauen, Demokratie und Menschenwürde und schafft die Grundlage dafür, dass KI Fortschritt ermöglichen kann, ohne die Gesellschaft aus dem Gleichgewicht zu bringen.Johannes Ganster, Kreativunternehmer, Österreich, KI-Experte
Leer en español (ES)
Introduciría un principio rector global: toda IA debe estar sujeta de manera demostrable a la responsabilidad y al control humanos. ¿Por qué precisamente este principio? Porque muchos otros problemas de la IA —desde la discriminación y la manipulación hasta la concentración de poder— se agravan cuando los sistemas funcionan sin que esté claro quién es responsable, quién puede intervenir y según qué normas se toman las decisiones. Una IA muy potente no es únicamente una herramienta técnica, sino también un factor de influencia social. Cuanto más influye en el mundo laboral, la educación, la medicina, la administración o la opinión pública, más importante resulta que las personas conserven el control legítimo definitivo. En términos concretos, la rendición de cuentas significa que los sistemas de IA deben ser lo suficientemente transparentes como para poder someterse a auditorías; que deben existir responsabilidades claramente definidas si se producen daños; y que los usuarios deben tener derecho a impugnar decisiones o solicitar una revisión humana. Además, las aplicaciones de IA especialmente potentes no deberían desarrollarse únicamente en función de la eficiencia o los beneficios económicos, sino que también deberían evaluarse según sus aportaciones a la dignidad, la libertad y la estabilidad social. Este principio sería especialmente valioso porque no se opone a la innovación. No prohíbe la IA, sino que establece un marco: la capacidad tecnológica sin responsabilidad es peligrosa, mientras que esa misma capacidad acompañada de responsabilidad puede resultar enormemente útil. De este modo, la tecnología sigue siendo un medio para alcanzar objetivos humanos y no se convierte por sí misma en el criterio que determina el éxito. En resumen, si solo pudiera elegir una norma, sería esta: ninguna IA sin una responsabilidad humana claramente definida. Este principio protege la confianza, la democracia y la dignidad humana, y sienta las bases para que la IA permita avanzar sin desestabilizar la sociedad.Johannes Ganster, emprendedor creativo, Austria, experto en IA
Прочетете на български (BG)
Бих въвел един глобален ръководен принцип: всеки ИИ трябва доказуемо да подлежи на отчетност пред хората. Защо точно този принцип? Защото много други проблеми, свързани с ИИ — от дискриминацията и манипулацията до концентрацията на власт — се задълбочават, когато системите функционират, без да е ясно кой носи отговорност, кой може да се намеси и според какви правила се вземат решенията. Един много мощен ИИ не е просто технически инструмент, а и фактор, който влияе върху обществото. Колкото повече той оформя света на труда, образованието, медицината, администрацията или общественото мнение, толкова по-важно става хората да запазят окончателния легитимен контрол. На практика отчетността означава следното: системите с ИИ трябва да бъдат достатъчно прозрачни, за да могат да бъдат одитирани; трябва да има ясно определени отговорности при настъпване на вреди; а потребителите трябва да имат право да оспорват решения или да изискват преразглеждането им от човек. Освен това особено мощните приложения на ИИ не бива да се разработват единствено въз основа на ефективността или печалбата, а трябва да се оценяват и според ползите им за човешкото достойнство, свободата и социалната стабилност. Този принцип би бил особено ценен, защото не е насочен срещу иновациите. Той не забранява ИИ, а установява рамка: високата производителност без отговорност е опасна, докато високата производителност, съчетана с отговорност, може да бъде изключително полезна. По този начин технологията остава средство за постигане на човешки цели, вместо сама по себе си да се превръща в критерий за успех. Накратко, ако можех да избера само едно правило, то би било следното: никакъв ИИ без ясно определена човешка отговорност. Това защитава доверието, демокрацията и човешкото достойнство и създава основата ИИ да допринася за напредъка, без да нарушава стабилността на обществото.Johannes Ganster, творчески предприемач, Австрия, експерт по ИИ
Bastian Voigtmann-Meising — Make AI developers accountable for what their systems produce
If there can only be one rule, I would go for: AI developers have to be liable for the system’s output.
Bastian Voigtmann-Meising, Advisor for Research Infrastructure Officer, Germany, AI Enthusiast
Læs på dansk (DK)
Hvis der kun må være én regel, ville jeg vælge denne: AI-udviklere skal kunne holdes ansvarlige for deres systemers output.Bastian Voigtmann-Meising, rådgiver for en medarbejder med ansvar for forskningsinfrastruktur, Tyskland, AI-entusiast
Auf Deutsch lesen (DE)
Wenn es nur eine einzige Regel geben dürfte, würde ich diese wählen: KI-Entwickler müssen für die Ergebnisse ihrer Systeme haftbar sein.Bastian Voigtmann-Meising, Berater für einen Beauftragten für Forschungsinfrastruktur, Deutschland, KI-Enthusiast
Leer en español (ES)
Si solo pudiera existir una norma, elegiría esta: los desarrolladores de IA deben asumir la responsabilidad legal por los resultados que generan sus sistemas.Bastian Voigtmann-Meising, asesor de un responsable de infraestructuras de investigación, Alemania, entusiasta de la IA
Прочетете на български (BG)
Ако можеше да има само едно правило, бих избрал следното: разработчиците на ИИ трябва да носят правна отговорност за резултатите, генерирани от техните системи.Bastian Voigtmann-Meising, съветник на служител, отговарящ за научноизследователската инфраструктура, Германия, ентусиаст в областта на ИИ
Juan Agustin Veliz — Keep AI open—and keep military and surveillance interests out
I wish we could fundamentally keep the military out of it, or surveillance agencies like Palantir. I would also like to forbid the intellectual property limitations on them. AI has been trained on the collective knowledge of humanity, and thus access to its fundamentals should belong to all humans and should be open forever.
Juan Agustin Veliz, Germany, AI Expert
Læs på dansk (DK)
Jeg ville ønske, at vi grundlæggende kunne holde militæret uden for AI og også overvågningsorganisationer som Palantir. Jeg ville desuden gerne forbyde begrænsninger baseret på intellektuelle ejendomsrettigheder til AI-systemerne. AI er blevet trænet på menneskehedens kollektive viden, og derfor bør adgangen til dens grundlæggende teknologier tilhøre alle mennesker og forblive åben for altid.Juan Agustin Veliz, Tyskland, AI-ekspert
Auf Deutsch lesen (DE)
Ich wünschte, wir könnten das Militär grundsätzlich aus der KI heraushalten, ebenso wie Überwachungsorganisationen wie Palantir. Außerdem würde ich gerne Beschränkungen durch geistige Eigentumsrechte an diesen Systemen verbieten. KI wurde mit dem kollektiven Wissen der Menschheit trainiert. Deshalb sollte der Zugang zu ihren grundlegenden Technologien allen Menschen zustehen und für immer offen bleiben.Juan Agustin Veliz, Deutschland, KI-Experte
Leer en español (ES)
Me gustaría que pudiéramos mantener al ejército completamente al margen de la IA, así como a las organizaciones dedicadas a la vigilancia, como Palantir. También me gustaría prohibir las restricciones de propiedad intelectual sobre estos sistemas. La IA se ha entrenado con el conocimiento colectivo de la humanidad y, por tanto, el acceso a sus tecnologías fundamentales debería pertenecer a todas las personas y permanecer abierto para siempre.Juan Agustin Veliz, Alemania, experto en IA
Прочетете на български (BG)
Бих искал по принцип да можем да държим военните далеч от ИИ, както и организациите за наблюдение като Palantir. Също така бих искал да се забранят ограниченията, свързани с правата върху интелектуалната собственост за тези системи. ИИ е обучен върху колективните знания на човечеството и затова достъпът до основните му технологии трябва да принадлежи на всички хора и да остане отворен завинаги.Juan Agustin Veliz, Германия, експерт по ИИ
Rumen Neonia — One principle above all: Complete transparency
Complete transparency.
Rumen Neonia, an organizational psychologist, Bulgaria, AI Educator
Læs på dansk (DK)
Fuld gennemsigtighed.Rumen Neonia, organisationspsykolog, Bulgarien, AI-underviser
Auf Deutsch lesen (DE)
Vollständige Transparenz.Rumen Neonia, Organisationspsychologe, Bulgarien, KI-Pädagoge
Leer en español (ES)
Transparencia total.Rumen Neonia, psicólogo organizacional, Bulgaria, educador en IA
Прочетете на български (BG)
Пълна прозрачност.Rumen Neonia, организационен психолог, България, преподавател по ИИ
Stefan Grigorov — Regulate harmful behaviour, not the technology itself
Regulate people for bad behaviour not the technology.
Stefan Grigorov, creator of the platform Epoha online, Bulgaria, AI Educator
Læs på dansk (DK)
Regulér menneskers dårlige adfærd, ikke teknologien.Stefan Grigorov, skaber af platformen Epoha online, Bulgarien, AI-underviser
Auf Deutsch lesen (DE)
Reguliert das Fehlverhalten von Menschen, nicht die Technologie.Stefan Grigorov, Gründer der Plattform Epoha online, Bulgarien, KI-Pädagoge
Leer en español (ES)
Hay que regular las malas conductas de las personas, no la tecnología.Stefan Grigorov, creador de la plataforma Epoha online, Bulgaria, educador en IA
Прочетете на български (BG)
Регулирайте неправомерното поведение на хората, а не технологиите.Stefan Grigorov, създател на платформата Epoha online, България, преподавател по ИИ
Nikoleta Kovachka — Better AI starts with quality-controlled training data
AI development under quality control of training data.
Nikoleta Kovachka, works in consulting services in AI since 2016, Bulgaria, AI Expert
Læs på dansk (DK)
Udviklingen af AI bør være underlagt kvalitetskontrol af træningsdataene.Nikoleta Kovachka, arbejder med AI-rådgivning siden 2016, Bulgarien, AI-ekspert
Auf Deutsch lesen (DE)
Die Entwicklung von KI sollte einer Qualitätskontrolle der Trainingsdaten unterliegen.Nikoleta Kovachka, seit 2016 in der KI-Beratung tätig, Bulgarien, KI-Expertin
Leer en español (ES)
El desarrollo de la IA debería estar sujeto a controles de calidad de los datos de entrenamiento.Nikoleta Kovachka, trabaja en servicios de consultoría de IA desde 2016, Bulgaria, experta en IA
Прочетете на български (BG)
Разработването на ИИ трябва да бъде подложено на контрол на качеството на данните за обучение.Nikoleta Kovachka, работи в областта на консултантските услуги за ИИ от 2016 г., България, експерт по ИИ
