miniatura|Algorismes de detecció de contingut fet per IA Els algorismes de detecció de contingut fet per intel·ligència artificial (IA) pretenen detectar si un text, o fins i tot una imatge de vídeo o un àudio han estat produïts per éssers humans o per intel·ligència artificial.

A partir del 2023, han sortit al mercat diferents aplicacions que pretenen detectar si el text ha estat creat per intel·ligència artificial i, de fet s'utilitzen als col·legis i universitats per poder detectar els treballs no originals dels estudiants. Aquest ús és controvertit, ja que les aplicacions emprades no són fiables i poden ser utilitzades incorrectament per professors i catedràtics.

Detecció de text En el cas de document de text, això es fa habitualment per tal d'evitar el suposat plagi, detectant la repetició de paraules com a senyals reveladors del fet que un text ha estat generat per IA (incloent les al·lucinacions d'IA). Sovint són utilitzats pels professors que investiguen els seus alumnes, normalment de manera ad hoc. Després del llançament de ChatGPT i programes similars de generació de textos d'IA, molts centres educatius han dictat polítiques contra l'ús de la IA per part dels estudiants. El programes de detecció de text d'IA també els utilitzen els que avaluen els sol·licitants de feina, així com els motors de cerca en línia.

Els detectors actuals no són fiables i han marcat incorrectament treball d'humans com a originari de la IA mentre no detecten el treball generat per la IA en altres casos. La revista MIT Technology Review va dir que la tecnologia "va lluitar per recollir text generat per ChatGPT que havia estat lleugerament reordenat pels humans i ofuscat per una eina de parafraseig". També s'ha demostrat que el programes de detecció de text d'IA discrimina als parlants no nadius d'anglès.

El maig de 2023, un professor de la Texas University–Commerce va utilitzar ChatGPT per poder detectar si el treball dels seus estudiants estava escrit per ell, cosa que ChatGPT va dir que així era. Com a tal, va amenaçar amb suspendre la classe, tot i que ChatGPT no va poder detectar quins eren els escrits generats per IA. No es va impedir a cap estudiant graduar-se per raó s'aquest problema, i tots els estudiants menys un, que va reconèixer haver-ho fet, van ser exonerats d'haver utilitzat ChatGPT en el seu treball. L'abril de 2023, la Universitat de Cambridge i altres membres del grup d'universitats Russell van desestimar l'eina de detecció de textos d'IA de Turnitin, argumentant que no era fiable.

Anti-detecció de text Hi ha programes dissenyats per evitar la detecció de text generat per IA.

L'agost de 2023, un estudi de Taloni et al. a la Universitat Magna Græcia i al Royal College of Ophthalmology, per provar la detecció de text generat per IA. L'estudi va provar una eina de detecció d'IA anomenada "Originality.ai", que va resultar capaç de detectar text generat pel GPT-4 amb una precisió mitjana del 91,3%. Tanmateix, quan l'eina es va incorporar a un altre programa anomenat "Undetectable.ai" la precisió de detecció del programa "Originality.ai" va baixar a una precisió mitjana del 27,8%.

Tanmateix l'estudi de Taloni et al. Havia analitzat 20 resums d'articles publicats a l'Eye Journal, que després es van parafrasejar mitjançant GPT-4.0. Alguns experts també creuen que tècniques com la marca d'aigua digital són ineficaces perquè es poden eliminar o afegir per desencadenar falsos positius. L'article "A Watermark for Large Language Models" de Kirchenbauer et al. també aborda les possibles vulnerabilitats de les tècniques de marca d'aigua. Els autors descriuen una sèrie de tàctiques adversàries, com ara atacs d'inserció, supressió i substitució de text, que es podrien utilitzar per evitar la detecció de marques d'aigua.

Detecció d'imatge, vídeo i àudio Existeixen una sèrie de suposats programes de detecció d'imatges d'IA per a intentar detectar imatges generades artificialment (per exemple, aquelles originades a Midjourney), però no són fiables. Altres programes afirmen identificar deepfakes de vídeo i àudio, però aquesta tecnologia tampoc és fiable.

Referències

Categoria:Processament de llenguatge natural Categoria:Lingüística computacional Categoria:Cibernètica Categoria:Intel·ligència artificial