What Are the Limits of Today’s AI?

AI can write, analyse, generate images and help us solve problems, but it is far from perfect. It can produce convincing mistakes, struggle with unfamiliar situations, rely on flawed data and require enormous computing resources. Some limitations are technical, others concern how AI functions or how we understand intelligence itself. Discover what experts and educators across Europe identify as the biggest challenges facing today’s AI systems.

BEFORE YOU READ...

If AI seems so intelligent, why does it still make simple mistakes?

Think about a time when an AI tool disappointed you. Did it misunderstand your question, give you incorrect information or simply fail to do what you needed? What do you think was behind that limitation?

Explore Different Perspectives

Discover seven perspectives on the limitations of current AI, from unreliable answers and flawed data to computing costs, content restrictions and difficulties using AI in everyday software.

From my experience, I believe there are several limitations. Firstly, it requires a lot of data and resources to function correctly, and if that data contains errors or biases, it adopts them. I think it works best on specific tasks, but it struggles when something new or different arises. We’ve all experienced its ability to make simple mistakes that would be obvious to a human, and no matter how hard we try, it often still deceives us, albeit in a way that seems so realistic it sometimes even influences our approach. I think we trust AI too much, and we need to consider it for what it is: a support tool.
Leticia Sagredo, trainer on professional retraining and the acquisition of digital skills, Spain, AI Educator
Læs på dansk (DK)Ud fra min erfaring mener jeg, at der er flere begrænsninger. For det første kræver AI store mængder data og ressourcer for at fungere korrekt, og hvis disse data indeholder fejl eller skævheder, overtager AI’en dem. Jeg synes, at AI fungerer bedst til specifikke opgaver, men den har svært ved at håndtere nye eller anderledes situationer. Vi har alle oplevet, at den kan begå simple fejl, som ville være indlysende for et menneske. Og uanset hvor meget vi prøver, lykkes det den ofte stadig at vildlede os, endda på en så realistisk måde, at det nogle gange påvirker vores egen tilgang. Jeg mener, at vi stoler for meget på AI, og at vi bør betragte den som det, den er: et hjælpeværktøj.
Leticia Sagredo, underviser i faglig omskoling og udvikling af digitale kompetencer, Spanien, AI-underviser
Auf Deutsch lesen (DE)Meiner Erfahrung nach gibt es mehrere Einschränkungen. Erstens benötigt KI große Mengen an Daten und Ressourcen, um richtig zu funktionieren. Wenn diese Daten Fehler oder Verzerrungen enthalten, übernimmt sie diese. Ich denke, dass KI bei bestimmten Aufgaben am besten funktioniert, aber Schwierigkeiten hat, wenn etwas Neues oder Ungewöhnliches auftritt. Wir alle haben schon erlebt, dass sie einfache Fehler macht, die für einen Menschen offensichtlich wären. Und egal, wie sehr wir uns bemühen, führt sie uns oft trotzdem in die Irre – und zwar auf eine so realistisch wirkende Weise, dass sie manchmal sogar unsere eigene Herangehensweise beeinflusst. Ich glaube, dass wir KI zu sehr vertrauen und sie als das betrachten sollten, was sie ist: ein unterstützendes Werkzeug.
Leticia Sagredo, Trainerin für berufliche Umschulung und den Erwerb digitaler Kompetenzen, Spanien, KI-Pädagogin
Leer en español (ES)Por mi experiencia, creo que existen varias limitaciones. En primer lugar, la IA necesita una gran cantidad de datos y recursos para funcionar correctamente y, si esos datos contienen errores o sesgos, los incorpora. Creo que funciona mejor en tareas específicas, pero tiene dificultades cuando surge algo nuevo o diferente. Todos hemos experimentado su capacidad para cometer errores sencillos que resultarían evidentes para un ser humano y, por mucho que lo intentemos, a menudo sigue engañándonos, aunque de una forma tan realista que a veces incluso influye en nuestra manera de abordar las cosas. Creo que confiamos demasiado en la IA y que debemos considerarla por lo que es: una herramienta de apoyo.
Leticia Sagredo, formadora en reconversión profesional y adquisición de competencias digitales, España, educadora en IA
Прочетете на български (BG)От моя опит смятам, че съществуват няколко ограничения. На първо място, ИИ се нуждае от голямо количество данни и ресурси, за да функционира правилно, и ако тези данни съдържат грешки или пристрастия, той ги възприема. Според мен ИИ се справя най-добре с конкретни задачи, но изпитва затруднения, когато възникне нещо ново или различно. Всички сме се сблъсквали със способността му да допуска прости грешки, които биха били очевидни за човек. И колкото и да се стараем, той често продължава да ни подвежда, при това по толкова реалистичен начин, че понякога дори влияе върху собствения ни подход. Смятам, че се доверяваме прекалено много на ИИ и трябва да го възприемаме такъв, какъвто е: помощен инструмент.
Leticia Sagredo, обучител по професионална преквалификация и придобиване на дигитални умения, Испания, преподавател по изкуствен интелект
Even though AI delivers impressive results today, I see clear limits from my point of view. First, these systems lack a real understanding. They work with patterns and probabilities, not with meaning in the human sense. Second, they are highly dependent on their training data. If these are incomplete or skewed, this is directly reflected in the results. Third, AI finds it difficult to transfer knowledge flexibly – it usually remains trapped in its area of application. Another problem is the susceptibility to errors: systems can make convincingly false statements without recognizing it themselves. In addition, many models are difficult to understand; you often don’t know exactly why a decision is made. From a didactic point of view, this is particularly problematic because transparency is actually important. Finally, one should not underestimate the high technical effort – both in terms of computing power and energy consumption. Overall, I would say that AI is a powerful tool, but it is not a substitute for human thinking and judgment.
Patrick Schellnegger, Austria, AI Educator
Læs på dansk (DK)Selvom AI i dag leverer imponerende resultater, ser jeg fra mit perspektiv klare begrænsninger. For det første mangler disse systemer en reel forståelse. De arbejder med mønstre og sandsynligheder, ikke med betydning i menneskelig forstand. For det andet er de meget afhængige af deres træningsdata. Hvis disse data er ufuldstændige eller skævvredne, afspejles det direkte i resultaterne. For det tredje har AI svært ved at overføre viden fleksibelt – den forbliver som regel begrænset til sit anvendelsesområde. Et andet problem er risikoen for fejl: Systemerne kan fremsætte overbevisende, men forkerte udsagn uden selv at opdage det. Derudover er mange modeller vanskelige at forstå, og man ved ofte ikke præcist, hvorfor en bestemt beslutning bliver truffet. Fra et didaktisk perspektiv er dette særligt problematisk, fordi gennemsigtighed faktisk er vigtig. Endelig bør man ikke undervurdere de store tekniske krav – både hvad angår regnekraft og energiforbrug. Samlet set vil jeg sige, at AI er et kraftfuldt værktøj, men ikke en erstatning for menneskelig tænkning og dømmekraft.
Patrick Schellnegger, Østrig, AI-underviser
Auf Deutsch lesen (DE)Auch wenn KI heute beeindruckende Ergebnisse liefert, sehe ich aus meiner Sicht klare Grenzen. Erstens fehlt diesen Systemen ein echtes Verständnis. Sie arbeiten mit Mustern und Wahrscheinlichkeiten, nicht mit Bedeutung im menschlichen Sinne. Zweitens sind sie stark von ihren Trainingsdaten abhängig. Wenn diese unvollständig oder verzerrt sind, spiegelt sich das unmittelbar in den Ergebnissen wider. Drittens fällt es KI schwer, Wissen flexibel zu übertragen – sie bleibt meist auf ihren Anwendungsbereich beschränkt. Ein weiteres Problem ist die Fehleranfälligkeit: Die Systeme können überzeugend klingende, aber falsche Aussagen machen, ohne dies selbst zu erkennen. Außerdem sind viele Modelle schwer nachvollziehbar; häufig weiß man nicht genau, warum eine bestimmte Entscheidung getroffen wird. Aus didaktischer Sicht ist das besonders problematisch, weil Transparenz eigentlich wichtig ist. Schließlich sollte man den hohen technischen Aufwand nicht unterschätzen – sowohl hinsichtlich der Rechenleistung als auch des Energieverbrauchs. Insgesamt würde ich sagen, dass KI ein leistungsfähiges Werkzeug ist, aber kein Ersatz für menschliches Denken und Urteilsvermögen.
Patrick Schellnegger, Österreich, KI-Pädagoge
Leer en español (ES)Aunque la IA ofrece resultados impresionantes en la actualidad, desde mi punto de vista presenta limitaciones claras. En primer lugar, estos sistemas carecen de una comprensión real. Trabajan con patrones y probabilidades, no con significados en el sentido humano. En segundo lugar, dependen en gran medida de sus datos de entrenamiento. Si estos son incompletos o están sesgados, eso se refleja directamente en los resultados. En tercer lugar, a la IA le cuesta transferir conocimientos de manera flexible: normalmente permanece limitada a su ámbito de aplicación. Otro problema es su propensión a cometer errores: los sistemas pueden hacer afirmaciones falsas que resultan convincentes sin ser capaces de reconocer sus propios errores. Además, muchos modelos son difíciles de comprender; a menudo no sabemos exactamente por qué se toma una determinada decisión. Desde el punto de vista didáctico, esto resulta especialmente problemático, ya que la transparencia es realmente importante. Por último, no debemos subestimar las elevadas exigencias técnicas, tanto en términos de capacidad de procesamiento como de consumo energético. En general, diría que la IA es una herramienta potente, pero no sustituye el pensamiento ni el criterio humanos.
Patrick Schellnegger, Austria, educador en IA
Прочетете на български (BG)Въпреки че днес ИИ постига впечатляващи резултати, от моя гледна точка той има ясни ограничения. Първо, на тези системи им липсва истинско разбиране. Те работят със закономерности и вероятности, а не със смисъл в човешкия смисъл на думата. Второ, те са силно зависими от данните, с които са обучени. Ако тези данни са непълни или изкривени, това се отразява пряко върху резултатите. Трето, ИИ изпитва затруднения да пренася знанията си гъвкаво – обикновено остава ограничен до своята област на приложение. Друг проблем е склонността към грешки: системите могат да правят убедително звучащи, но неверни твърдения, без сами да осъзнават това. Освен това много модели са трудни за разбиране и често не знаем точно защо е взето определено решение. От дидактическа гледна точка това е особено проблематично, защото прозрачността всъщност е много важна. И накрая, не бива да се подценяват високите технически изисквания – както по отношение на изчислителната мощност, така и на потреблението на енергия. Като цяло бих казал, че ИИ е мощен инструмент, но не може да замени човешкото мислене и преценка.
Patrick Schellnegger, Австрия, преподавател по изкуствен интелект
You can look at it this way: Technical: expensive, data-hungry, limited stability Functional: impressive, but error-prone and contextual Conceptually: no real thinking, no awareness, no understanding The key point: Today’s AI is an extremely powerful tool for pattern processing – but not a thinking being.
Gerald Pichler, project manager, Austria, AI Expert
Læs på dansk (DK)Man kan se på det på denne måde: Teknisk: dyr, kræver store datamængder, begrænset stabilitet Funktionelt: imponerende, men fejlbehæftet og kontekstafhængig Begrebsmæssigt: ingen reel tænkning, ingen bevidsthed, ingen forståelse Hovedpointen: Nutidens AI er et ekstremt kraftfuldt værktøj til behandling af mønstre – men ikke et tænkende væsen.
Gerald Pichler, projektleder, Østrig, AI-ekspert
Auf Deutsch lesen (DE)Man kann es folgendermaßen betrachten: Technisch: teuer, datenhungrig, begrenzte Stabilität Funktional: beeindruckend, aber fehleranfällig und kontextabhängig Konzeptionell: kein echtes Denken, kein Bewusstsein, kein Verständnis Der entscheidende Punkt: Die heutige KI ist ein äußerst leistungsfähiges Werkzeug zur Verarbeitung von Mustern – aber kein denkendes Wesen.
Gerald Pichler, Projektmanager, Österreich, KI-Experte
Leer en español (ES)Podemos verlo de la siguiente manera: Desde el punto de vista técnico: costosa, requiere grandes cantidades de datos y tiene una estabilidad limitada. Desde el punto de vista funcional: impresionante, pero propensa a errores y dependiente del contexto. Desde el punto de vista conceptual: no existe pensamiento real, ni conciencia, ni comprensión. La idea fundamental: la IA actual es una herramienta extremadamente potente para procesar patrones, pero no es un ser pensante.
Gerald Pichler, director de proyectos, Austria, experto en IA
Прочетете на български (BG)Можем да погледнем на това по следния начин: От техническа гледна точка: скъп, изисква големи количества данни, с ограничена стабилност От функционална гледна точка: впечатляващ, но склонен към грешки и зависим от контекста От концептуална гледна точка: няма истинско мислене, няма съзнание, няма разбиране Основният извод: Съвременният ИИ е изключително мощен инструмент за обработка на закономерности, но не е мислещо същество.
Gerald Pichler, ръководител на проекти, Австрия, експерт по изкуствен интелект
There are a bunch of problems born from the fact that we have approximated Moore’s law’s end, and several theories are being tested right now in an attempt to bend physics. Namely, fit more transistors in a smaller space (we want to print 1 nanometer transistors, that is, silicon atoms long), use light instead of electricity to transmit information between them or harness quantum theory to shift the computing paradigms. We also have the energy problems associated with running this infrastructure, and we are seeing that some data centers are building their own energy plants for running, which speaks of how inefficient we are today at computing. Conceptually, I don’t think we are so stale as new and improved ways of using AI are coming on a regular basis, but the concepts fall flat when we’re so bound by the current tech limitations.
Juan Agustin Veliz, Germany, AI Expert
Læs på dansk (DK)Der er en række problemer, som skyldes, at vi nærmer os grænsen for Moores lov, og flere teorier bliver i øjeblikket afprøvet i et forsøg på at udfordre fysikkens grænser. Det handler blandt andet om at få plads til flere transistorer på et mindre område (vi ønsker at fremstille transistorer på 1 nanometer, altså med en længde svarende til siliciumatomer), bruge lys i stedet for elektricitet til at overføre information mellem dem eller udnytte kvanteteori til at ændre de grundlæggende principper for databehandling. Vi har også de energimæssige problemer, der er forbundet med at drive denne infrastruktur, og vi ser, at nogle datacentre bygger deres egne energianlæg for at kunne fungere. Det siger noget om, hvor ineffektiv vores databehandling stadig er i dag. På det konceptuelle plan mener jeg ikke, at udviklingen er gået i stå, da der regelmæssigt kommer nye og forbedrede måder at bruge AI på. Men idéerne kommer til kort, når vi er så begrænsede af den nuværende teknologis muligheder.
Juan Agustin Veliz, Tyskland, AI-ekspert
Auf Deutsch lesen (DE)Es gibt eine ganze Reihe von Problemen, die dadurch entstehen, dass wir uns dem Ende des Mooreschen Gesetzes nähern. Derzeit werden verschiedene Theorien erprobt, um die Grenzen der Physik zu überwinden. Dazu gehört beispielsweise, mehr Transistoren auf kleinerem Raum unterzubringen (wir wollen Transistoren mit einer Größe von 1 Nanometer herstellen, also mit einer Länge im Bereich von Siliziumatomen), Licht anstelle von Elektrizität zur Informationsübertragung zwischen ihnen zu nutzen oder die Quantentheorie einzusetzen, um die grundlegenden Paradigmen der Datenverarbeitung zu verändern. Hinzu kommen die Energieprobleme, die mit dem Betrieb dieser Infrastruktur verbunden sind. Wir beobachten, dass einige Rechenzentren eigene Kraftwerke bauen, um ihren Betrieb sicherzustellen. Das zeigt, wie ineffizient unsere heutige Datenverarbeitung noch ist. Auf konzeptioneller Ebene glaube ich nicht, dass wir stagnieren, da regelmäßig neue und verbesserte Möglichkeiten zur Nutzung von KI entstehen. Allerdings stoßen diese Konzepte an ihre Grenzen, solange wir so stark durch die derzeitigen technologischen Beschränkungen eingeschränkt sind.
Juan Agustin Veliz, Deutschland, KI-Experte
Leer en español (ES)Existen numerosos problemas derivados de que nos estamos acercando al límite de la ley de Moore, y actualmente se están poniendo a prueba varias teorías en un intento de desafiar los límites de la física. En concreto, se busca colocar más transistores en un espacio más pequeño (queremos fabricar transistores de 1 nanómetro, es decir, de una longitud equivalente a átomos de silicio), utilizar luz en lugar de electricidad para transmitir información entre ellos o aprovechar la teoría cuántica para transformar los paradigmas de la computación. También tenemos los problemas energéticos asociados al funcionamiento de esta infraestructura, y estamos viendo cómo algunos centros de datos construyen sus propias centrales de energía para poder operar. Esto demuestra lo ineficientes que seguimos siendo actualmente en términos de computación. Desde el punto de vista conceptual, no creo que estemos estancados, ya que continuamente aparecen formas nuevas y mejoradas de utilizar la IA. Sin embargo, estas ideas se quedan cortas cuando estamos tan condicionados por las limitaciones de la tecnología actual.
Juan Agustin Veliz, Alemania, experto en IA
Прочетете на български (BG)Съществуват редица проблеми, произтичащи от факта, че се приближаваме към границите на закона на Мур. В момента се изпробват различни теории в опит да се преодолеят ограниченията на физиката. По-конкретно, целта е да се поберат повече транзистори в по-малко пространство (стремим се да произвеждаме транзистори с размер 1 нанометър, тоест с дължина, съпоставима с тази на силициеви атоми), да се използва светлина вместо електричество за предаване на информация между тях или да се приложи квантовата теория за промяна на основните парадигми в изчислителната техника. Съществуват и енергийните проблеми, свързани с функционирането на тази инфраструктура. Наблюдаваме как някои центрове за данни изграждат собствени електроцентрали, за да осигурят работата си, което показва колко неефективни все още сме в областта на изчислителните технологии. От концептуална гледна точка не смятам, че сме в застой, тъй като редовно се появяват нови и усъвършенствани начини за използване на ИИ. Но тези идеи се оказват ограничени, когато сме толкова силно зависими от възможностите на съвременните технологии.
Juan Agustin Veliz, Германия, експерт по изкуствен интелект
Learning datasets are flawed which often makes unreliable answers, the constant limitations of what it can and can’t say whether it’s for the “woke” people or limiting dangerous information really hurts performance in my opinion, In fact many people have said that chat gpt used to be better and faster in the early days because it hardly had any limits on what it could say but it got neutered because people complained.
Alex Iliev, Bulgaria, AI Enthusiast
Læs på dansk (DK)Træningsdatasæt indeholder fejl, hvilket ofte fører til upålidelige svar. Efter min mening skader de konstante begrænsninger for, hvad AI må og ikke må sige, virkelig dens ydeevne, uanset om det er for at imødekomme de såkaldte “woke”-personer eller for at begrænse farlig information. Faktisk har mange sagt, at ChatGPT var bedre og hurtigere i begyndelsen, fordi der næsten ikke var nogen begrænsninger for, hvad den kunne sige. Men den blev stærkt begrænset, fordi folk klagede.
Alex Iliev, Bulgarien, AI-entusiast
Auf Deutsch lesen (DE)Trainingsdatensätze sind fehlerhaft, was häufig zu unzuverlässigen Antworten führt. Meiner Meinung nach beeinträchtigen die ständigen Einschränkungen dessen, was KI sagen darf und was nicht, ihre Leistungsfähigkeit erheblich – unabhängig davon, ob dies geschieht, um sogenannten „woken“ Menschen entgegenzukommen oder um gefährliche Informationen einzuschränken. Tatsächlich haben viele Menschen gesagt, dass ChatGPT in seiner Anfangszeit besser und schneller war, weil es kaum Einschränkungen hinsichtlich dessen gab, was es sagen durfte. Doch dann wurde es stark eingeschränkt, weil sich Menschen beschwerten.
Alex Iliev, Bulgarien, KI-Enthusiast
Leer en español (ES)Los conjuntos de datos de entrenamiento contienen errores, lo que a menudo provoca respuestas poco fiables. En mi opinión, las constantes restricciones sobre lo que la IA puede y no puede decir perjudican mucho su rendimiento, ya sea para satisfacer a las personas consideradas «woke» o para limitar la información peligrosa. De hecho, mucha gente ha dicho que ChatGPT era mejor y más rápido en sus primeros tiempos porque apenas tenía restricciones sobre lo que podía decir, pero acabaron limitándolo considerablemente porque la gente se quejaba.
Alex Iliev, Bulgaria, entusiasta de la IA
Прочетете на български (BG)Наборите от данни за обучение съдържат недостатъци, което често води до ненадеждни отговори. Според мен постоянните ограничения върху това какво ИИ може и не може да казва сериозно вредят на неговата ефективност, независимо дали става дума за съобразяване с така наречените „уоук“ хора, или за ограничаване на опасна информация. Всъщност много хора са казвали, че ChatGPT е бил по-добър и по-бърз в началото, защото почти не е имал ограничения върху това какво може да казва, но впоследствие възможностите му са били силно ограничени заради оплакванията на хората.
Alex Iliev, България, ентусиаст в областта на изкуствения интелект
Hallucinations, dependency of answer on access to the right data e.g. used in the training set or accessible via search engines and internal knowledge bases of the model. Model’s outputs are very long and sound beautiful, but often lack substance.
Nikoleta Kovachka, works in consulting services in AI since 2016, Bulgaria, AI Expert
Læs på dansk (DK)Hallucinationer og det forhold, at kvaliteten af svarene afhænger af adgangen til de rette data, for eksempel data, der er brugt i træningsdatasættet, eller som er tilgængelige via søgemaskiner og modellens interne vidensbaser. Modellens svar er ofte meget lange og lyder flotte, men mangler tit substans.
Nikoleta Kovachka, har arbejdet med konsulentydelser inden for AI siden 2016, Bulgarien, AI-ekspert
Auf Deutsch lesen (DE)Halluzinationen und die Abhängigkeit der Antworten vom Zugang zu den richtigen Daten, beispielsweise solchen, die im Trainingsdatensatz verwendet wurden oder über Suchmaschinen und interne Wissensdatenbanken des Modells zugänglich sind. Die Ausgaben des Modells sind oft sehr lang und klingen wunderschön, lassen aber häufig die nötige Substanz vermissen.
Nikoleta Kovachka, seit 2016 in der KI-Beratung tätig, Bulgarien, KI-Expertin
Leer en español (ES)Las alucinaciones y la dependencia de las respuestas del acceso a los datos adecuados, por ejemplo, los utilizados en el conjunto de entrenamiento o los disponibles a través de motores de búsqueda y bases de conocimiento internas del modelo. Las respuestas de los modelos suelen ser muy largas y estar redactadas de forma muy atractiva, pero a menudo carecen de contenido sustancial.
Nikoleta Kovachka, trabaja en servicios de consultoría en IA desde 2016, Bulgaria, experta en IA
Прочетете на български (BG)Халюцинации и зависимост на отговорите от достъпа до подходящите данни, например използваните в набора от данни за обучение или достъпните чрез търсачки и вътрешните бази от знания на модела. Отговорите на модела често са много дълги и звучат красиво, но нерядко им липсва съществено съдържание.
Nikoleta Kovachka, работи в сферата на консултантските услуги в областта на изкуствения интелект от 2016 г., България, експерт по изкуствен интелект
Main limitations are that AI is not well integrated with everyday used stuff like Excel, PowerPoint.
Valentin Zmiycharov, PhD in AI, Bulgaria, AI Expert
Læs på dansk (DK)De vigtigste begrænsninger er, at AI ikke er godt integreret med almindeligt anvendte værktøjer som Excel og PowerPoint.
Valentin Zmiycharov, ph.d. i AI, Bulgarien, AI-ekspert
Auf Deutsch lesen (DE)Die größten Einschränkungen bestehen darin, dass KI nicht gut in alltäglich genutzte Anwendungen wie Excel und PowerPoint integriert ist.
Valentin Zmiycharov, promoviert im Bereich KI, Bulgarien, KI-Experte
Leer en español (ES)Las principales limitaciones son que la IA no está bien integrada con herramientas de uso cotidiano como Excel y PowerPoint.
Valentin Zmiycharov, doctor en IA, Bulgaria, experto en IA
Прочетете на български (BG)Основните ограничения са, че ИИ не е добре интегриран с ежедневно използвани приложения като Excel и PowerPoint.
Valentin Zmiycharov, доктор по изкуствен интелект, България, експерт по изкуствен интелект
350
2
0
Would love your thoughts, please comment.x
()
x