Warning signs can be recognized by exaggerated promises and lurid representations – anyone who advertises AI as omniscient or almost human should be critically questioned. Especially for beginners, a basic understanding of the underlying technology is important in order to be able to realistically assess possibilities and limits.
The tools now referred to as “AI” are essentially based on statistics and probabilities. Language models calculate for each output which word or phrase is most likely to be next – they do not provide an objectively correct answer, but always a plausible one. There are no real emotions or empathy, even if the answers can seem very human at first glance. Understanding this difference is essential to properly classify AI spending.
Another critical point: Many AI models have been trained on the basis of human-generated data – and thus inevitably adopt human biases and biases. These so-called biases can be reflected in generated responses and should always be taken into account.
FH-Prof. Dr. Elmar Krainz, Deputy Head of Institute Head of Computer Science FH Joanneum, Austria, AI Expert
Læs på dansk (DK)
Advarselstegn kan genkendes på overdrevne løfter og sensationsprægede fremstillinger – enhver, der markedsfører AI som alvidende eller næsten menneskelig, bør mødes med kritiske spørgsmål. Især for begyndere er en grundlæggende forståelse af den bagvedliggende teknologi vigtig for at kunne vurdere dens muligheder og begrænsninger realistisk.
De værktøjer, der i dag betegnes som “AI”, bygger grundlæggende på statistik og sandsynligheder. Sprogmodeller beregner for hvert output, hvilket ord eller hvilken formulering der med størst sandsynlighed kommer som det næste – de giver ikke nødvendigvis et objektivt korrekt svar, men et svar, der virker plausibelt. Der er ingen ægte følelser eller empati, selvom svarene ved første øjekast kan virke meget menneskelige. At forstå denne forskel er afgørende for at kunne vurdere AI-output korrekt.
Et andet kritisk punkt er, at mange AI-modeller er blevet trænet på data skabt af mennesker og derfor uundgåeligt overtager menneskelige fordomme og skævheder. Disse såkaldte bias kan afspejles i de genererede svar og bør altid tages i betragtning.
FH-Prof. Dr. Elmar Krainz, viceinstitutleder og leder af datalogi ved FH Joanneum, Østrig, AI-ekspert
Auf Deutsch lesen (DE)
Warnsignale lassen sich an übertriebenen Versprechungen und reißerischen Darstellungen erkennen – wer KI als allwissend oder nahezu menschlich anpreist, sollte kritisch hinterfragt werden. Gerade für Einsteigerinnen und Einsteiger ist ein grundlegendes Verständnis der zugrunde liegenden Technologie wichtig, um Möglichkeiten und Grenzen realistisch einschätzen zu können.
Die heute als „KI“ bezeichneten Werkzeuge basieren im Wesentlichen auf Statistik und Wahrscheinlichkeiten. Sprachmodelle berechnen bei jeder Ausgabe, welches Wort oder welche Formulierung mit der höchsten Wahrscheinlichkeit als Nächstes folgt – sie liefern nicht zwangsläufig eine objektiv richtige Antwort, sondern eine plausibel erscheinende. Echte Emotionen oder Empathie sind nicht vorhanden, auch wenn die Antworten auf den ersten Blick sehr menschlich wirken können. Diesen Unterschied zu verstehen, ist entscheidend, um KI-Ausgaben richtig einzuordnen.
Ein weiterer kritischer Punkt: Viele KI-Modelle wurden auf der Grundlage von menschengenerierten Daten trainiert und übernehmen dadurch zwangsläufig menschliche Vorurteile und Verzerrungen. Diese sogenannten Biases können sich in den generierten Antworten widerspiegeln und sollten stets berücksichtigt werden.
FH-Prof. Dr. Elmar Krainz, stellvertretender Institutsleiter und Leiter der Informatik an der FH Joanneum, Österreich, KI-Experte
Leer en español (ES)
Las señales de alerta pueden reconocerse en las promesas exageradas y las presentaciones sensacionalistas. Cualquiera que anuncie la IA como si fuera omnisciente o casi humana debería ser cuestionado críticamente. Especialmente para quienes están empezando, es importante comprender los fundamentos de la tecnología para poder evaluar de manera realista sus posibilidades y limitaciones.
Las herramientas que actualmente denominamos «IA» se basan fundamentalmente en estadísticas y probabilidades. Los modelos de lenguaje calculan, para cada respuesta, qué palabra o expresión tiene más probabilidades de aparecer a continuación. No proporcionan necesariamente una respuesta objetivamente correcta, sino una que resulta plausible. No existen emociones ni empatía reales, aunque las respuestas puedan parecer muy humanas a primera vista. Comprender esta diferencia es fundamental para interpretar correctamente los resultados generados por la IA.
Otro aspecto crítico es que muchos modelos de IA se han entrenado con datos generados por seres humanos y, por tanto, inevitablemente incorporan prejuicios y sesgos humanos. Estos sesgos pueden reflejarse en las respuestas generadas y siempre deberían tenerse en cuenta.
FH-Prof. Dr. Elmar Krainz, subdirector del instituto y responsable de Informática en FH Joanneum, Austria, experto en IA
Прочетете на български (BG)
Предупредителните знаци могат да бъдат разпознати по преувеличените обещания и сензационните представяния – всеки, който рекламира ИИ като всезнаещ или почти човешки, трябва да бъде подлаган на критична оценка. Особено за начинаещите е важно да имат основни познания за технологията, която стои зад ИИ, за да могат реалистично да оценяват нейните възможности и ограничения.
Инструментите, които днес наричаме „ИИ“, по същество се основават на статистика и вероятности. Езиковите модели изчисляват за всеки генериран отговор коя дума или фраза е най-вероятно да следва – те не предоставят непременно обективно правилен отговор, а такъв, който изглежда правдоподобен. Няма истински емоции или емпатия, дори когато отговорите на пръв поглед изглеждат много човешки. Разбирането на тази разлика е от съществено значение за правилното тълкуване на резултатите от ИИ.
Друг критичен момент е, че много модели с ИИ са обучени въз основа на данни, създадени от хора, и поради това неизбежно възприемат човешки предразсъдъци и пристрастия. Тези така наречени отклонения или пристрастия могат да се отразят в генерираните отговори и винаги трябва да се вземат предвид.
FH-Prof. Dr. Elmar Krainz, заместник-ръководител на института и ръководител на направление „Информатика“ във FH Joanneum, Австрия, експерт по ИИ