AI makes everyday life easier, but could relying on it too much come at a cost? From losing important skills and independent thinking to trusting biased information and becoming dependent on technology, our contributors explore the risks of letting AI take over too many of our daily tasks and decisions. Discover their perspectives on finding the right balance between technological convenience and human judgement.
BEFORE YOU READ...
What if your favourite AI tool stopped working tomorrow?
Think about the tasks you regularly ask AI to do for you. Could you still complete them independently? Are there skills you might be practising less because AI makes everything so convenient?
Explore Different Perspectives
Discover nine perspectives on AI dependency, from everyday decision-making and professional judgement to privacy, critical thinking and the importance of staying independent.
Josean Celaya — When AI sounds confident but gets it wrong: Why I always double-check
Don’t blindly trust what AI tells you, because it’s often wrong and tends to speak with a lot of confidence even when he doesn’t fully understand the situation or have all the facts. It’s always a good idea to question its statements, double- check the information it gives you, and form your own opinion instead of accepting everything at face value, especially in situations where accuracy really matters.
Celaya Josean, Spain, Educator and a systems administrator
Læs på dansk (DK)
Stol ikke blindt på det, AI fortæller dig, for teknologien tager ofte fejl og har en tendens til at udtrykke sig med stor selvsikkerhed, selv når den ikke fuldt ud forstår situationen eller har alle fakta. Det er altid en god idé at forholde sig kritisk til dens udsagn, dobbelttjekke de oplysninger, den giver dig, og danne sin egen mening i stedet for at tage alt for pålydende. Det gælder især i situationer, hvor det er særligt vigtigt, at oplysningerne er korrekte.Celaya Josean, Spanien, underviser og systemadministrator
Auf Deutsch lesen (DE)
Vertraue nicht blind darauf, was dir die KI sagt, denn sie liegt häufig falsch und neigt dazu, sich sehr selbstsicher auszudrücken, selbst wenn sie die Situation nicht vollständig versteht oder nicht über alle Fakten verfügt. Es ist immer sinnvoll, ihre Aussagen kritisch zu hinterfragen, die bereitgestellten Informationen zu überprüfen und sich eine eigene Meinung zu bilden, anstatt alles ungeprüft für bare Münze zu nehmen. Das gilt insbesondere in Situationen, in denen Genauigkeit besonders wichtig ist.Celaya Josean, Spanien, Pädagoge und Systemadministrator
Leer en español (ES)
No confíes ciegamente en lo que te dice la IA, porque a menudo se equivoca y tiende a expresarse con mucha seguridad, incluso cuando no comprende completamente la situación o no dispone de todos los datos. Siempre es recomendable cuestionar sus afirmaciones, verificar la información que proporciona y formarte tu propia opinión en lugar de aceptar todo lo que dice sin comprobarlo, especialmente en situaciones en las que la precisión es realmente importante.Celaya Josean, España, educador y administrador de sistemas
Прочетете на български (BG)
Не се доверявайте сляпо на това, което ви казва изкуственият интелект, защото той често греши и има склонност да се изразява с голяма увереност, дори когато не разбира напълно ситуацията или не разполага с всички факти. Винаги е добра идея да подлагате твърденията му на критична оценка, да проверявате повторно информацията, която ви предоставя, и да изграждате собствено мнение, вместо да приемате всичко за чиста монета. Това е особено важно в ситуации, в които точността на информацията има съществено значение.Celaya Josean, Испания, преподавател и системен администратор
Diana De la Moreda Salvendra — Use it or lose it? Why I practise thinking for myself
I think one of the main risks is the lack of critical thinking it can generate in people. When individuals become accustomed to having everything done for them, there is a real possibility of losing important cognitive skills, such as the ability to search for information independently or to carefully analyze and evaluate the information they come across. This reliance can slowly erode one’s capacity for problem-solving and independent reasoning. For instance, when facing an important task or assignment, it is easy to be tempted to rely entirely on artificial intelligence to produce the work for you. However, I personally prefer to approach such tasks by first attempting to complete them on my own, putting in the effort to develop my understanding and skills. Only after doing so do I consider using AI as a tool for review or additional support. I believe this approach helps me learn more effectively and prevents me from becoming overly dependent on technology. Furthermore, there is also the danger of blindly trusting everything that artificial intelligence provides without taking the time to question, cross-check, or verify its outputs. This unquestioning trust can be particularly problematic in situations that require careful judgment or when the information has real-world consequences, as it may lead to errors, misconceptions, or decisions based on incomplete or incorrect data.
Diana De la Moreda Salvendra, student in Psycology, Spain, AI Enthusiast
Læs på dansk (DK)
Jeg mener, at en af de største risici er den mangel på kritisk tænkning, som AI kan føre til hos mennesker. Når man vænner sig til at få alting gjort for sig, er der en reel risiko for at miste vigtige kognitive færdigheder, såsom evnen til selvstændigt at søge efter information eller til grundigt at analysere og vurdere de oplysninger, man støder på. Denne afhængighed kan gradvist svække ens evne til at løse problemer og tænke selvstændigt. Når man for eksempel står over for en vigtig opgave eller aflevering, kan det være fristende at lade kunstig intelligens udføre hele arbejdet. Personligt foretrækker jeg dog at gribe sådanne opgaver an ved først at forsøge at løse dem på egen hånd og gøre en indsats for at udvikle min forståelse og mine færdigheder. Først derefter overvejer jeg at bruge AI som et værktøj til gennemgang eller yderligere støtte. Jeg mener, at denne tilgang hjælper mig med at lære mere effektivt og forhindrer mig i at blive alt for afhængig af teknologien. Derudover er der også en fare ved blindt at stole på alt, hvad kunstig intelligens leverer, uden at tage sig tid til at stille spørgsmål, sammenholde oplysninger med andre kilder eller kontrollere resultaterne. Denne ukritiske tillid kan være særligt problematisk i situationer, der kræver omhyggelig vurdering, eller hvor oplysningerne har konsekvenser i den virkelige verden, da den kan føre til fejl, misforståelser eller beslutninger baseret på ufuldstændige eller forkerte oplysninger.Diana De la Moreda Salvendra, psykologistuderende, Spanien, AI-entusiast
Auf Deutsch lesen (DE)
Ich denke, eines der größten Risiken ist der Mangel an kritischem Denken, den KI bei Menschen hervorrufen kann. Wenn sich Menschen daran gewöhnen, dass ihnen alles abgenommen wird, besteht die reale Gefahr, wichtige kognitive Fähigkeiten zu verlieren, beispielsweise die Fähigkeit, selbstständig nach Informationen zu suchen oder gefundene Informationen sorgfältig zu analysieren und zu bewerten. Diese Abhängigkeit kann die Fähigkeit zur Problemlösung und zum eigenständigen Denken allmählich schwächen. Wenn man beispielsweise vor einer wichtigen Aufgabe oder einer Studienarbeit steht, ist die Versuchung groß, sich vollständig auf künstliche Intelligenz zu verlassen und die Arbeit von ihr erledigen zu lassen. Ich persönlich gehe solche Aufgaben jedoch lieber so an, dass ich zunächst versuche, sie selbstständig zu bearbeiten, und mir die Mühe mache, mein Verständnis und meine Fähigkeiten weiterzuentwickeln. Erst danach ziehe ich in Betracht, KI als Werkzeug zur Überprüfung oder als zusätzliche Unterstützung einzusetzen. Ich glaube, dass mir diese Vorgehensweise hilft, effektiver zu lernen, und verhindert, dass ich zu stark von der Technologie abhängig werde. Darüber hinaus besteht die Gefahr, allem, was künstliche Intelligenz liefert, blind zu vertrauen, ohne sich die Zeit zu nehmen, die Ergebnisse zu hinterfragen, mit anderen Quellen abzugleichen oder zu überprüfen. Dieses unkritische Vertrauen kann besonders problematisch sein, wenn Situationen eine sorgfältige Beurteilung erfordern oder Informationen konkrete Auswirkungen auf die reale Welt haben. Es kann zu Fehlern, Missverständnissen oder Entscheidungen führen, die auf unvollständigen oder falschen Daten beruhen.Diana De la Moreda Salvendra, Psychologiestudentin, Spanien, KI-Enthusiastin
Leer en español (ES)
Creo que uno de los principales riesgos es la falta de pensamiento crítico que la IA puede generar en las personas. Cuando nos acostumbramos a que todo se haga por nosotros, existe una posibilidad real de perder habilidades cognitivas importantes, como la capacidad de buscar información de manera independiente o de analizar y evaluar cuidadosamente la información que encontramos. Esta dependencia puede deteriorar poco a poco nuestra capacidad para resolver problemas y razonar de forma autónoma. Por ejemplo, cuando tenemos que realizar una tarea o un trabajo importante, es fácil caer en la tentación de depender completamente de la inteligencia artificial para que haga el trabajo por nosotros. Sin embargo, personalmente prefiero abordar este tipo de tareas intentando primero completarlas por mi cuenta, esforzándome por desarrollar mis conocimientos y habilidades. Solo después de hacerlo considero utilizar la IA como una herramienta de revisión o apoyo adicional. Creo que este enfoque me ayuda a aprender de manera más eficaz y evita que me vuelva excesivamente dependiente de la tecnología. Además, también existe el peligro de confiar ciegamente en todo lo que proporciona la inteligencia artificial sin dedicar tiempo a cuestionar, contrastar o verificar sus resultados. Esta confianza sin espíritu crítico puede resultar especialmente problemática en situaciones que requieren una valoración cuidadosa o cuando la información tiene consecuencias en el mundo real, ya que puede provocar errores, interpretaciones equivocadas o decisiones basadas en datos incompletos o incorrectos.Diana De la Moreda Salvendra, estudiante de Psicología, España, entusiasta de la IA
Прочетете на български (BG)
Смятам, че един от основните рискове е липсата на критично мислене, която изкуственият интелект може да предизвика у хората. Когато хората свикнат всичко да се прави вместо тях, съществува реална опасност да загубят важни когнитивни умения, като способността самостоятелно да търсят информация или внимателно да анализират и оценяват информацията, на която попадат. Тази зависимост може постепенно да отслаби способността им да решават проблеми и да разсъждават самостоятелно. Например, когато човек е изправен пред важна задача или учебно задание, лесно може да се изкуши да разчита изцяло на изкуствения интелект да свърши работата вместо него. Аз обаче лично предпочитам да подхождам към подобни задачи, като първо се опитвам да ги изпълня сама и полагам усилия да развивам знанията и уменията си. Едва след това обмислям използването на изкуствен интелект като инструмент за проверка или допълнителна подкрепа. Вярвам, че този подход ми помага да уча по-ефективно и ме предпазва от прекомерна зависимост от технологиите. Освен това съществува и опасността да се доверяваме сляпо на всичко, което изкуственият интелект предоставя, без да отделяме време да поставяме резултатите под въпрос, да ги сравняваме с други източници или да проверяваме тяхната достоверност. Подобно безкритично доверие може да бъде особено проблематично в ситуации, които изискват внимателна преценка, или когато информацията има реални последици, тъй като може да доведе до грешки, погрешни схващания или решения, основани на непълни или неверни данни.Diana De la Moreda Salvendra, студентка по психология, Испания, ентусиастка в областта на изкуствения интелект
Elisa Mazuelas — Hidden biases, lost skills and what happens when AI fails
Over-relying on AI for daily decisions or tasks can create several important risks. One major risk is the loss of human judgement. When people depend too much on AI for choices, such as navigation, shopping or even some work or life decisions, they may stop thinking critically and trust the system even when it makes mistakes. Another risk which we may not realize is bias. AI systems learn from existing data and if this is biased the decisions made by AI can be inaccurate. This can affect areas like hiring, lending, or even social media content, reinforcing stereotypes without users realizing it. Additionally, technical failures can cause problems. If AI stops working or give incorrect results, people who depend on them may struggle to function without alternatives. Finally, overusing AI can reduce human skills, such as problem-solving and decision-making, this can make individuals less independent in their everyday life.
Mazuelas Elisa, Spain, international relations student, AI Enthusiast
Læs på dansk (DK)
At være for afhængig af AI til daglige beslutninger eller opgaver kan medføre flere væsentlige risici. En af de største risici er tabet af menneskelig dømmekraft. Når mennesker bliver for afhængige af AI til at træffe valg, for eksempel i forbindelse med navigation, indkøb eller endda beslutninger om arbejde og privatliv, kan de holde op med at tænke kritisk og stole på systemet, selv når det begår fejl. En anden risiko, som vi måske ikke er opmærksomme på, er bias. AI-systemer lærer af eksisterende data, og hvis disse data er præget af bias, kan de beslutninger, AI træffer, være unøjagtige. Det kan påvirke områder som rekruttering, långivning og endda indhold på sociale medier og dermed forstærke stereotyper, uden at brugerne opdager det. Derudover kan tekniske fejl skabe problemer. Hvis AI holder op med at fungere eller giver forkerte resultater, kan mennesker, der er afhængige af teknologien, få svært ved at klare sig uden alternativer. Endelig kan overdreven brug af AI svække menneskelige færdigheder såsom problemløsning og beslutningstagning, hvilket kan gøre mennesker mindre selvstændige i deres hverdag.Mazuelas Elisa, Spanien, studerende i internationale relationer, AI-entusiast
Auf Deutsch lesen (DE)
Eine übermäßige Abhängigkeit von KI bei alltäglichen Entscheidungen oder Aufgaben kann mehrere erhebliche Risiken mit sich bringen. Ein großes Risiko ist der Verlust des menschlichen Urteilsvermögens. Wenn Menschen sich bei Entscheidungen, beispielsweise bei der Navigation, beim Einkaufen oder sogar bei beruflichen und privaten Angelegenheiten, zu stark auf KI verlassen, hören sie möglicherweise auf, kritisch zu denken, und vertrauen dem System selbst dann, wenn es Fehler macht. Ein weiteres Risiko, das uns möglicherweise gar nicht bewusst ist, sind Verzerrungen beziehungsweise Bias. KI-Systeme lernen aus vorhandenen Daten. Wenn diese Daten verzerrt sind, können auch die von der KI getroffenen Entscheidungen ungenau sein. Dies kann Bereiche wie die Personalauswahl, die Kreditvergabe oder sogar Inhalte in sozialen Medien betreffen und Stereotype verstärken, ohne dass die Nutzerinnen und Nutzer es bemerken. Darüber hinaus können technische Ausfälle Probleme verursachen. Wenn KI nicht mehr funktioniert oder falsche Ergebnisse liefert, können Menschen, die von ihr abhängig sind, Schwierigkeiten haben, ohne Alternativen zurechtzukommen. Schließlich kann eine übermäßige Nutzung von KI menschliche Fähigkeiten wie Problemlösung und Entscheidungsfindung schwächen, wodurch Menschen in ihrem Alltag weniger selbstständig werden können.Mazuelas Elisa, Spanien, Studentin der Internationalen Beziehungen, KI-Enthusiastin
Leer en español (ES)
Depender excesivamente de la IA para tomar decisiones o realizar tareas cotidianas puede generar varios riesgos importantes. Uno de los principales es la pérdida del criterio humano. Cuando las personas dependen demasiado de la IA para tomar decisiones, como elegir rutas de navegación, hacer compras o incluso resolver cuestiones laborales o personales, pueden dejar de pensar de manera crítica y confiar en el sistema incluso cuando comete errores. Otro riesgo del que quizá no seamos conscientes son los sesgos. Los sistemas de IA aprenden a partir de datos existentes y, si estos contienen sesgos, las decisiones tomadas por la IA pueden ser inexactas. Esto puede afectar a ámbitos como la selección de personal, la concesión de préstamos o incluso los contenidos de las redes sociales, reforzando estereotipos sin que los usuarios se den cuenta. Además, los fallos técnicos pueden causar problemas. Si la IA deja de funcionar o proporciona resultados incorrectos, las personas que dependen de ella pueden tener dificultades para desenvolverse sin alternativas. Por último, el uso excesivo de la IA puede reducir habilidades humanas como la resolución de problemas y la toma de decisiones, lo que puede hacer que las personas sean menos independientes en su vida cotidiana.Mazuelas Elisa, España, estudiante de Relaciones Internacionales, entusiasta de la IA
Прочетете на български (BG)
Прекомерното разчитане на изкуствения интелект при ежедневните решения или задачи може да доведе до няколко сериозни риска. Един от основните рискове е загубата на човешка преценка. Когато хората разчитат твърде много на изкуствения интелект при вземането на решения, например за навигация, пазаруване или дори по въпроси, свързани с работата и личния живот, те могат да престанат да мислят критично и да се доверяват на системата дори когато тя допуска грешки. Друг риск, който може да не осъзнаваме, са пристрастията. Системите с изкуствен интелект се обучават върху съществуващи данни и ако тези данни съдържат пристрастия, решенията, вземани от изкуствения интелект, могат да бъдат неточни. Това може да засегне области като подбора на персонал, отпускането на кредити или дори съдържанието в социалните мрежи, като затвърждава стереотипи, без потребителите да го осъзнават. Освен това техническите неизправности могат да причинят проблеми. Ако изкуственият интелект спре да работи или предоставя неправилни резултати, хората, които зависят от него, могат да изпитат затруднения да се справят без алтернативни решения. И накрая, прекомерната употреба на изкуствен интелект може да отслаби човешки умения като решаването на проблеми и вземането на решения, което може да направи хората по-малко самостоятелни в ежедневието им.Mazuelas Elisa, Испания, студентка по международни отношения, ентусиастка в областта на изкуствения интелект
Abraham Zuazo — Could you find your way without GPS? The danger of AI dependency
Excessive dependence on these tools in the medium to long term makes us forget how we used to carry out everyday tasks, with the risk that if they were to disappear or become less accessible (lack of internet, increased cost of use, not having devices to connect, etc.), we would be seriously affected. I compare the excessive use of AI for everyday tasks to people who use GPS daily, for example, to go to university or work, or on weekends to travel to their hometown or nearby cities. Without GPS, these people become lost and are unable to reach any destination, even if it is a familiar one. Being able to function autonomously without relying on external devices allows us to be self-sufficient, and if at some point we do not have access to them, our lives will not be severely impacted. Using AI for basic tasks makes us lose the habit of reasoning and thinking critically, of knowing how to manage on our own, and it makes us dependent on these tools or companies whose ultimate goal, logically, is to make money and not to provide knowledge altruistically.
Abraham Zuazo, Spain, senior electrical engineer, AI expert
Læs på dansk (DK)
En overdreven afhængighed af disse værktøjer på mellemlang og lang sigt får os til at glemme, hvordan vi tidligere udførte dagligdags opgaver. Det indebærer en risiko for, at vi bliver alvorligt påvirket, hvis værktøjerne forsvinder eller bliver mindre tilgængelige, for eksempel på grund af manglende internetadgang, stigende omkostninger ved brugen eller mangel på enheder, der kan oprette forbindelse. Jeg sammenligner overdreven brug af AI til daglige opgaver med mennesker, der bruger GPS hver dag, for eksempel til at komme på universitetet eller arbejde eller til at rejse til deres hjemby eller nærliggende byer i weekenden. Uden GPS farer disse mennesker vild og kan ikke finde frem til deres destination, selv når det er et sted, de kender. At kunne klare sig selvstændigt uden at være afhængig af eksterne enheder gør os selvhjulpne, og hvis vi på et tidspunkt mister adgangen til dem, vil det ikke få alvorlige konsekvenser for vores liv. Når vi bruger AI til grundlæggende opgaver, mister vi vanen med at ræsonnere og tænke kritisk samt evnen til at klare os på egen hånd. Det gør os afhængige af disse værktøjer eller af virksomheder, hvis endelige mål naturligvis er at tjene penge og ikke at stille viden til rådighed af altruistiske grunde.Abraham Zuazo, Spanien, ledende elektroingeniør, AI-ekspert
Auf Deutsch lesen (DE)
Eine übermäßige Abhängigkeit von diesen Werkzeugen führt mittel- bis langfristig dazu, dass wir vergessen, wie wir alltägliche Aufgaben früher erledigt haben. Dadurch besteht die Gefahr, dass wir erheblich beeinträchtigt werden, wenn diese Werkzeuge verschwinden oder weniger zugänglich werden, beispielsweise aufgrund fehlender Internetverbindungen, steigender Nutzungskosten oder mangelnder Geräte für den Zugang. Ich vergleiche die übermäßige Nutzung von KI für alltägliche Aufgaben mit Menschen, die täglich ein GPS-Navigationssystem verwenden, um beispielsweise zur Universität oder zur Arbeit zu fahren oder am Wochenende in ihre Heimatstadt oder in nahe gelegene Städte zu reisen. Ohne GPS verirren sich diese Menschen und sind nicht mehr in der Lage, ihr Ziel zu erreichen, selbst wenn es ihnen vertraut ist. Wenn wir in der Lage sind, ohne externe Geräte selbstständig zurechtzukommen, bleiben wir unabhängig. Sollten wir irgendwann keinen Zugang mehr zu diesen Geräten haben, wird unser Leben dadurch nicht erheblich beeinträchtigt. Die Nutzung von KI für grundlegende Aufgaben führt dazu, dass wir uns das eigenständige Schlussfolgern und kritische Denken sowie die Fähigkeit, allein zurechtzukommen, abgewöhnen. Dadurch werden wir von diesen Werkzeugen oder den dahinterstehenden Unternehmen abhängig, deren letztendliches Ziel verständlicherweise darin besteht, Geld zu verdienen, und nicht darin, Wissen aus rein altruistischen Motiven bereitzustellen.Abraham Zuazo, Spanien, leitender Elektroingenieur, KI-Experte
Leer en español (ES)
La dependencia excesiva de estas herramientas a medio y largo plazo hace que olvidemos cómo realizábamos antes las tareas cotidianas, con el riesgo de que, si desaparecieran o se volvieran menos accesibles (por falta de internet, aumento del coste de uso, ausencia de dispositivos para conectarnos, etc.), nos viéramos seriamente afectados. Comparo el uso excesivo de la IA para tareas cotidianas con las personas que utilizan el GPS a diario, por ejemplo, para ir a la universidad o al trabajo, o los fines de semana para desplazarse a su ciudad de origen o a localidades cercanas. Sin el GPS, estas personas se pierden y son incapaces de llegar a cualquier destino, aunque sea un lugar conocido. Ser capaces de desenvolvernos de manera autónoma, sin depender de dispositivos externos, nos permite ser autosuficientes y, si en algún momento dejamos de tener acceso a ellos, nuestra vida no se verá gravemente afectada. Utilizar la IA para tareas básicas hace que perdamos el hábito de razonar y pensar críticamente, así como la capacidad de desenvolvernos por nuestra cuenta, y nos vuelve dependientes de estas herramientas o de empresas cuyo objetivo final, lógicamente, es ganar dinero y no proporcionar conocimientos de manera altruista.Abraham Zuazo, España, ingeniero eléctrico sénior, experto en IA
Прочетете на български (BG)
Прекомерната зависимост от тези инструменти в средносрочен и дългосрочен план ни кара да забравяме как преди сме изпълнявали ежедневните си задачи. Това създава риск да бъдем сериозно засегнати, ако инструментите изчезнат или станат по-труднодостъпни, например поради липса на интернет, повишаване на разходите за използването им или липса на устройства за свързване и други подобни причини. Сравнявам прекомерната употреба на изкуствен интелект за ежедневни задачи с хората, които използват GPS всеки ден, например за да стигнат до университета или работното си място, или през почивните дни, за да пътуват до родния си град или до близки населени места. Без GPS тези хора се губят и не могат да стигнат до никоя дестинация, дори когато мястото им е познато. Способността да се справяме самостоятелно, без да разчитаме на външни устройства, ни позволява да бъдем независими и ако в даден момент загубим достъп до тях, животът ни няма да бъде сериозно засегнат. Използването на изкуствен интелект за основни задачи ни кара да губим навика да разсъждаваме и да мислим критично, както и умението да се справяме сами. Това ни прави зависими от тези инструменти или от компаниите, чиято крайна цел, логично, е да печелят пари, а не да предоставят знания от алтруистични подбуди.Abraham Zuazo, Испания, старши електроинженер, експерт по изкуствен интелект
Elisabeth Rieger — Five risks of relying too much on AI in professional life
The risks of uncritical AI use are real and complex – especially in the university context, where decisions have an impact on many stakeholders in research, teaching and administration. From the day-to-day work and the experiences gained within the framework of the Digital University Hub, five central risk areas can be identified:
- Incorrect deductions and recommendations: AI generates plausible-sounding answers that are not correct for the specific target group environment. What applies to a general context does not necessarily apply to one’s own institution or department/department.
- Loss of critical thinking: The more AI takes over, the less we practice our own judgment. Especially in areas such as project coordination and knowledge management, this is risky in the long term.
- Dependency and loss of control: If processes, protocols and decision templates are generated exclusively by AI, a dependency arises – even in the event of system failures or changes in providers.
- Data protection and confidentiality: Sensitive data (e.g. personnel data, strategy documents) is often processed in the university environment. Careless use of AI can trigger data protection problems.
- Lack of context sensitivity: AI does not automatically know the institutional context – culture, history, internal dynamics and specific rules of an organization remain invisible (depending on the basic data/assistants).
Elisabeth Rieger, Austria, AI Expert
Læs på dansk (DK)
Risiciene ved ukritisk brug af AI er reelle og komplekse – især i universitetsverdenen, hvor beslutninger påvirker mange interessenter inden for forskning, undervisning og administration. På baggrund af det daglige arbejde og erfaringerne fra Digital University Hub kan der identificeres fem centrale risikoområder:- Forkerte konklusioner og anbefalinger: AI genererer svar, der lyder plausible, men som ikke er korrekte i forhold til den specifikke målgruppe og dens omgivelser. Det, der gælder i en generel sammenhæng, gælder ikke nødvendigvis for ens egen institution eller afdeling.
- Tab af kritisk tænkning: Jo mere AI overtager, desto mindre træner vi vores egen dømmekraft. Især inden for områder som projektkoordinering og vidensstyring udgør dette en risiko på længere sigt.
- Afhængighed og tab af kontrol: Hvis processer, protokoller og beslutningsgrundlag udelukkende genereres af AI, opstår der en afhængighed, som også kan få konsekvenser ved systemnedbrud eller skift af udbyder.
- Databeskyttelse og fortrolighed: I universitetsmiljøet behandles der ofte følsomme oplysninger, for eksempel personaleoplysninger og strategidokumenter. Uforsigtig brug af AI kan medføre problemer med databeskyttelsen.
- Manglende kontekstforståelse: AI kender ikke automatisk den institutionelle kontekst. En organisations kultur, historie, interne dynamikker og specifikke regler forbliver usynlige for systemet, afhængigt af hvilke grundlæggende data og assistenter der anvendes.
Elisabeth Rieger, Østrig, AI-ekspert
Auf Deutsch lesen (DE)
Die Risiken einer unkritischen Nutzung von KI sind real und komplex – insbesondere im universitären Kontext, in dem Entscheidungen Auswirkungen auf zahlreiche Beteiligte in Forschung, Lehre und Verwaltung haben. Aus der täglichen Arbeit und den im Rahmen des Digital University Hub gewonnenen Erfahrungen lassen sich fünf zentrale Risikobereiche identifizieren:- Fehlerhafte Schlussfolgerungen und Empfehlungen: KI erzeugt plausibel klingende Antworten, die jedoch für das spezifische Umfeld der Zielgruppe nicht zutreffend sind. Was in einem allgemeinen Kontext gilt, muss nicht zwangsläufig auch für die eigene Institution oder Abteilung gelten.
- Verlust des kritischen Denkens: Je mehr Aufgaben die KI übernimmt, desto weniger üben wir unser eigenes Urteilsvermögen. Besonders in Bereichen wie der Projektkoordination und dem Wissensmanagement stellt dies langfristig ein Risiko dar.
- Abhängigkeit und Kontrollverlust: Wenn Prozesse, Protokolle und Entscheidungsvorlagen ausschließlich durch KI erstellt werden, entsteht eine Abhängigkeit, die sich auch bei Systemausfällen oder einem Wechsel des Anbieters bemerkbar macht.
- Datenschutz und Vertraulichkeit: Im universitären Umfeld werden häufig sensible Daten verarbeitet, beispielsweise Personaldaten oder Strategiedokumente. Ein unachtsamer Umgang mit KI kann Datenschutzprobleme verursachen.
- Mangelnde Kontextsensibilität: KI kennt den institutionellen Kontext nicht automatisch. Die Kultur, Geschichte, internen Dynamiken und spezifischen Regeln einer Organisation bleiben für das System unsichtbar, abhängig von den zugrunde liegenden Daten und den eingesetzten Assistenten.
Elisabeth Rieger, Österreich, KI-Expertin
Leer en español (ES)
Los riesgos de utilizar la IA sin una actitud crítica son reales y complejos, especialmente en el contexto universitario, donde las decisiones afectan a numerosas partes interesadas en los ámbitos de la investigación, la enseñanza y la administración. A partir del trabajo diario y de las experiencias adquiridas en el marco del Digital University Hub, se pueden identificar cinco áreas principales de riesgo:- Conclusiones y recomendaciones incorrectas: La IA genera respuestas que parecen plausibles, pero que no son correctas para el entorno específico del grupo destinatario. Lo que resulta válido en un contexto general no tiene por qué aplicarse a una institución o departamento concreto.
- Pérdida del pensamiento crítico: Cuantas más tareas asume la IA, menos ejercitamos nuestro propio criterio. Esto supone un riesgo a largo plazo, especialmente en ámbitos como la coordinación de proyectos y la gestión del conocimiento.
- Dependencia y pérdida de control: Si los procesos, protocolos y modelos para la toma de decisiones son generados exclusivamente por la IA, se crea una dependencia que también puede tener consecuencias en caso de fallos del sistema o cambios de proveedor.
- Protección de datos y confidencialidad: En el entorno universitario se suele trabajar con datos sensibles, como información del personal o documentos estratégicos. Un uso descuidado de la IA puede provocar problemas relacionados con la protección de datos.
- Falta de sensibilidad al contexto: La IA no conoce automáticamente el contexto institucional. La cultura, la historia, las dinámicas internas y las normas específicas de una organización permanecen fuera de su alcance, dependiendo de los datos de base y de los asistentes utilizados.
Elisabeth Rieger, Austria, experta en IA
Прочетете на български (BG)
Рисковете от безкритичното използване на изкуствен интелект са реални и сложни – особено в университетската среда, където решенията оказват влияние върху множество заинтересовани страни в областта на научните изследвания, преподаването и администрацията. Въз основа на ежедневната работа и опита, натрупан в рамките на Digital University Hub, могат да бъдат откроени пет основни рискови области:- Неправилни заключения и препоръки: Изкуственият интелект генерира отговори, които звучат правдоподобно, но не са правилни за конкретната среда на целевата група. Това, което е приложимо в общ контекст, невинаги е приложимо за дадена институция или отдел.
- Загуба на критично мислене: Колкото повече задачи поема изкуственият интелект, толкова по-малко упражняваме собствената си преценка. Това представлява дългосрочен риск, особено в области като координацията на проекти и управлението на знания.
- Зависимост и загуба на контрол: Ако процесите, протоколите и шаблоните за вземане на решения се създават изключително от изкуствен интелект, възниква зависимост, която може да има последици и при технически сривове или смяна на доставчика.
- Защита на данните и поверителност: В университетската среда често се обработват чувствителни данни, например лични данни на служители и стратегически документи. Невнимателното използване на изкуствен интелект може да доведе до проблеми със защитата на данните.
- Липса на чувствителност към контекста: Изкуственият интелект не познава автоматично институционалния контекст. Културата, историята, вътрешните взаимоотношения и специфичните правила на една организация остават невидими за системата в зависимост от основните данни и използваните асистенти.
Elisabeth Rieger, Австрия, експерт по изкуствен интелект
Reinhard Welser — When AI makes every decision, what happens to our individuality?
In my view, too much reliance on AI in day-to-day decisions poses several risks. First of all, I hand over decisions to other people – to systems whose functionality I often only partially understand. As a result, I lose self-determination and freedom, because I increasingly get used to suggestions, recommendations or automatic decisions instead of weighing them up myself. Although it is comfortable, it may simply make you lazy. If the AI constantly tells me what the “best” next step is, I take less time to reflect on my own priorities. In the long term, critical thinking is forgotten because alternatives, uncertainties or creative solutions are hardly actively thought through.
Another risk is that decisions are too much related to the past and that habits become even more entrenched. AI is based on data from the past and tends to reproduce existing patterns instead of promoting new ones. This reduces openness to unconventional paths. After all, there is a danger that people will become more and more standardized, as their decisions are calculated on the basis of probabilities. Individuality, intuition and personal values could take a back seat – although they are precisely what make human decisions valuable.
Mag. Reinhard Welser, BEd., Austria, AI Educator
Læs på dansk (DK)
Efter min mening indebærer en overdreven afhængighed af AI i hverdagens beslutninger flere risici. Først og fremmest overlader jeg beslutninger til andre – til systemer, hvis funktionalitet jeg ofte kun delvist forstår. Dermed mister jeg selvbestemmelse og frihed, fordi jeg i stigende grad vænner mig til forslag, anbefalinger eller automatiske beslutninger i stedet for selv at overveje og afveje mulighederne. Selvom det er bekvemt, kan det ganske enkelt gøre en doven. Hvis AI hele tiden fortæller mig, hvad det “bedste” næste skridt er, bruger jeg mindre tid på at reflektere over mine egne prioriteter. På længere sigt risikerer den kritiske tænkning at gå tabt, fordi man næsten ikke længere aktivt overvejer alternativer, usikkerheder eller kreative løsninger. En anden risiko er, at beslutninger i for høj grad bliver baseret på fortiden, og at vaner dermed bliver endnu mere fastlåste. AI bygger på historiske data og har en tendens til at gentage eksisterende mønstre frem for at fremme nye. Det mindsker åbenheden over for utraditionelle veje. Endelig er der en fare for, at mennesker bliver mere og mere ensartede, fordi deres beslutninger beregnes ud fra sandsynligheder. Individualitet, intuition og personlige værdier kan træde i baggrunden – selvom det netop er disse egenskaber, der gør menneskelige beslutninger værdifulde.Mag. Reinhard Welser, BEd., Østrig, AI-underviser
Auf Deutsch lesen (DE)
Meiner Ansicht nach birgt eine zu starke Abhängigkeit von KI bei alltäglichen Entscheidungen mehrere Risiken. Zunächst einmal gebe ich Entscheidungen an andere ab – an Systeme, deren Funktionsweise ich häufig nur teilweise verstehe. Dadurch verliere ich Selbstbestimmung und Freiheit, weil ich mich zunehmend an Vorschläge, Empfehlungen oder automatische Entscheidungen gewöhne, anstatt die Möglichkeiten selbst abzuwägen. Obwohl das bequem ist, kann es einen schlichtweg bequem und träge machen. Wenn mir die KI ständig sagt, was der „beste“ nächste Schritt ist, nehme ich mir weniger Zeit, über meine eigenen Prioritäten nachzudenken. Langfristig gerät das kritische Denken in Vergessenheit, weil Alternativen, Unsicherheiten oder kreative Lösungen kaum noch aktiv durchdacht werden. Ein weiteres Risiko besteht darin, dass Entscheidungen zu stark an der Vergangenheit ausgerichtet werden und sich Gewohnheiten dadurch noch weiter verfestigen. KI basiert auf Daten aus der Vergangenheit und neigt dazu, bestehende Muster zu reproduzieren, anstatt neue zu fördern. Das verringert die Offenheit gegenüber unkonventionellen Wegen. Schließlich besteht die Gefahr, dass Menschen immer stärker vereinheitlicht werden, da ihre Entscheidungen auf der Grundlage von Wahrscheinlichkeiten berechnet werden. Individualität, Intuition und persönliche Werte könnten in den Hintergrund treten – obwohl gerade sie menschliche Entscheidungen wertvoll machen.Mag. Reinhard Welser, BEd., Österreich, KI-Pädagoge
Leer en español (ES)
Desde mi punto de vista, depender demasiado de la IA para tomar decisiones cotidianas conlleva varios riesgos. En primer lugar, delego las decisiones en otros, en sistemas cuyo funcionamiento a menudo solo comprendo parcialmente. Como consecuencia, pierdo autonomía y libertad, porque cada vez me acostumbro más a recibir sugerencias, recomendaciones o decisiones automáticas en lugar de valorar las opciones por mí mismo. Aunque resulte cómodo, esto puede simplemente volvernos perezosos. Si la IA me indica constantemente cuál es el «mejor» siguiente paso, dedico menos tiempo a reflexionar sobre mis propias prioridades. A largo plazo, el pensamiento crítico acaba quedando relegado porque apenas nos detenemos a considerar activamente otras alternativas, las incertidumbres o las soluciones creativas. Otro riesgo es que las decisiones estén demasiado condicionadas por el pasado y que los hábitos se arraiguen todavía más. La IA se basa en datos del pasado y tiende a reproducir patrones existentes en lugar de fomentar otros nuevos. Esto reduce nuestra disposición a explorar caminos poco convencionales. Por último, existe el peligro de que las personas se vuelvan cada vez más uniformes, ya que sus decisiones se calculan en función de probabilidades. La individualidad, la intuición y los valores personales podrían pasar a un segundo plano, a pesar de que son precisamente estos elementos los que hacen valiosas las decisiones humanas.Mag. Reinhard Welser, BEd., Austria, educador en IA
Прочетете на български (BG)
Според мен прекомерното разчитане на изкуствения интелект при вземането на ежедневни решения крие няколко риска. На първо място, аз прехвърлям вземането на решения на други – на системи, чието функциониране често разбирам само частично. В резултат на това губя самостоятелността и свободата си, защото все повече свиквам с предложения, препоръки или автоматични решения, вместо сам да преценявам различните възможности. Макар това да е удобно, то може просто да ни направи мързеливи. Ако изкуственият интелект постоянно ми казва коя е „най-добрата“ следваща стъпка, отделям по-малко време за размисъл върху собствените си приоритети. В дългосрочен план критичното мислене постепенно се забравя, защото почти преставаме активно да обмисляме алтернативи, несигурности или творчески решения. Друг риск е решенията да бъдат прекалено обвързани с миналото и навиците да се затвърждават още повече. Изкуственият интелект се основава на данни от миналото и има склонност да възпроизвежда съществуващи модели, вместо да насърчава нови. Това намалява отвореността към нестандартни подходи. В крайна сметка съществува опасност хората да стават все по-еднообразни, тъй като решенията им се изчисляват въз основа на вероятности. Индивидуалността, интуицията и личните ценности могат да останат на заден план – въпреки че именно те правят човешките решения ценни.Mag. Reinhard Welser, BEd., Австрия, преподавател по изкуствен интелект
Juan Agustin Veliz — Are AI shortcuts weakening our problem-solving skills?
I genuinely believe that it degrades one’s capacity for problem-solving and I cannot put my finger on what it is exactly without scientific proof. Spending your time focused on a problem you solve on your own is a way to create very strong neural connections. I can see the ravages of heavy AI (or tech) reliance, and I can see people falling slowly into incompetence, even faster than I anticipated.
Juan Agustin Veliz, Germany, AI Expert
Læs på dansk (DK)
Jeg tror oprigtigt, at det svækker menneskers evne til at løse problemer, selvom jeg uden videnskabelig dokumentation ikke præcist kan forklare, hvad der ligger bag. At bruge tid på at koncentrere sig om et problem, som man selv løser, er en måde at skabe meget stærke neurale forbindelser på. Jeg kan se de skadelige konsekvenser af en omfattende afhængighed af AI (eller teknologi generelt), og jeg kan se, hvordan mennesker langsomt mister deres færdigheder og bliver mindre kompetente, endda hurtigere end jeg havde forventet.Juan Agustin Veliz, Tyskland, AI-ekspert
Auf Deutsch lesen (DE)
Ich bin wirklich davon überzeugt, dass dies die Fähigkeit zur Problemlösung beeinträchtigt, auch wenn ich ohne wissenschaftliche Belege nicht genau erklären kann, woran das liegt. Sich intensiv mit einem Problem zu beschäftigen und es eigenständig zu lösen, ist eine Möglichkeit, sehr starke neuronale Verbindungen aufzubauen. Ich kann die schädlichen Auswirkungen einer starken Abhängigkeit von KI (oder Technologie allgemein) beobachten und sehe, wie Menschen langsam ihre Fähigkeiten verlieren und zunehmend inkompetent werden – sogar schneller, als ich erwartet hatte.Juan Agustin Veliz, Deutschland, KI-Experte
Leer en español (ES)
Creo sinceramente que esto deteriora la capacidad de las personas para resolver problemas, aunque no puedo identificar exactamente por qué ocurre sin contar con pruebas científicas. Dedicar tiempo a concentrarse en un problema y resolverlo por uno mismo es una forma de crear conexiones neuronales muy fuertes. Puedo observar los efectos perjudiciales de una dependencia excesiva de la IA (o de la tecnología en general), y veo cómo las personas van perdiendo poco a poco sus capacidades y volviéndose menos competentes, incluso más rápido de lo que había previsto.Juan Agustin Veliz, Alemania, experto en IA
Прочетете на български (BG)
Искрено вярвам, че това влошава способността на хората да решават проблеми, въпреки че без научни доказателства не мога да определя точно на какво се дължи. Когато отделяш време, за да се съсредоточиш върху даден проблем и да го решиш самостоятелно, това е начин да създадеш много силни невронни връзки. Виждам вредните последици от прекомерната зависимост от изкуствения интелект (или технологиите като цяло) и наблюдавам как хората постепенно губят уменията си и стават все по-некомпетентни, дори по-бързо, отколкото очаквах.Juan Agustin Veliz, Германия, експерт по изкуствен интелект
Rumen Neonia — When AI influences professional judgement and employee evaluations
Loss of critical thinking and professional judgment. Exacerbation of existing biases in personnel evaluations.
Rumen Neonia, an organizational psychologist, Bulgaria, AI Educator
Læs på dansk (DK)
Tab af kritisk tænkning og faglig dømmekraft. Forstærkning af eksisterende bias i personalevurderinger.Rumen Neonia, organisationspsykolog, Bulgarien, AI-underviser
Auf Deutsch lesen (DE)
Verlust des kritischen Denkens und des professionellen Urteilsvermögens. Verstärkung bestehender Vorurteile und Verzerrungen bei der Personalbeurteilung.Rumen Neonia, Organisationspsychologe, Bulgarien, KI-Pädagoge
Leer en español (ES)
Pérdida del pensamiento crítico y del criterio profesional. Agravamiento de los sesgos existentes en las evaluaciones del personal.Rumen Neonia, psicólogo organizacional, Bulgaria, educador en IA
Прочетете на български (BG)
Загуба на критично мислене и професионална преценка. Засилване на съществуващите пристрастия при оценяването на персонала.Rumen Neonia, организационен психолог, България, преподавател по изкуствен интелект
Stoyan Gechkov — AI is a helper, not a replacement for your own common sense
AI is great as long as you know how to use it. I’ve experienced over time some AI models become worse in a way that they start making more mistakes and provide wrong information sometimes. That’s what I recommend not relying solely on AI for tasks that you are unsure about. Always double-check with different sources and verify the information the AI gives you to make sure it’s correct. And of course, use your own brand and common sense and knowledge. The AI should be complimentary to it, it doesn’t replace it.
Stoyan Gechkov, Bulgaria, AI Expert
Læs på dansk (DK)
AI er fantastisk, så længe man ved, hvordan man bruger teknologien. Jeg har oplevet, at nogle AI-modeller med tiden bliver dårligere, fordi de begynder at begå flere fejl og indimellem giver forkerte oplysninger. Derfor anbefaler jeg, at man ikke udelukkende stoler på AI, når man skal løse opgaver, som man selv er usikker på. Dobbelttjek altid oplysningerne ved hjælp af forskellige kilder, og kontrollér de informationer, AI giver dig, for at sikre, at de er korrekte. Og brug selvfølgelig også din egen dømmekraft, sunde fornuft og viden. AI skal være et supplement til disse evner, ikke en erstatning for dem.Stoyan Gechkov, Bulgarien, AI-ekspert
Auf Deutsch lesen (DE)
KI ist großartig, solange man weiß, wie man sie richtig einsetzt. Ich habe im Laufe der Zeit erlebt, dass einige KI-Modelle schlechter werden, indem sie zunehmend Fehler machen und manchmal falsche Informationen liefern. Deshalb empfehle ich, sich bei Aufgaben, bei denen man selbst unsicher ist, nicht ausschließlich auf KI zu verlassen. Man sollte Informationen immer anhand verschiedener Quellen gegenprüfen und die Angaben der KI überprüfen, um sicherzustellen, dass sie korrekt sind. Und natürlich sollte man auch das eigene Urteilsvermögen, den gesunden Menschenverstand und das eigene Wissen einsetzen. KI sollte diese Fähigkeiten ergänzen und nicht ersetzen.Stoyan Gechkov, Bulgarien, KI-Experte
Leer en español (ES)
La IA es fantástica siempre que sepas cómo utilizarla. Con el tiempo, he observado que algunos modelos de IA empeoran, en el sentido de que empiezan a cometer más errores y, en ocasiones, proporcionan información incorrecta. Por eso recomiendo no depender exclusivamente de la IA para realizar tareas sobre las que no tienes suficientes conocimientos o certezas. Contrasta siempre la información con diferentes fuentes y verifica lo que te proporciona la IA para asegurarte de que sea correcto. Y, por supuesto, utiliza también tu propio criterio, sentido común y conocimientos. La IA debe complementar estas capacidades, no sustituirlas.Stoyan Gechkov, Bulgaria, experto en IA
Прочетете на български (BG)
Изкуственият интелект е чудесен инструмент, стига да знаете как да го използвате. С течение на времето съм забелязал, че някои модели на изкуствен интелект се влошават, като започват да допускат повече грешки и понякога предоставят невярна информация. Затова препоръчвам да не разчитате единствено на изкуствения интелект при изпълнението на задачи, за които самите вие не сте сигурни. Винаги проверявайте информацията чрез различни източници и потвърждавайте достоверността на данните, които изкуственият интелект ви предоставя, за да сте сигурни, че са правилни. И, разбира се, използвайте собствената си преценка, здрав разум и знания. Изкуственият интелект трябва да допълва тези способности, а не да ги замества.Stoyan Gechkov, България, експерт по изкуствен интелект
