Apertus és un model de llenguatge extens desenvolupat a Suïssa per part de diverses institucions públiques del país com l'Escola Politècnica Federal de Lausana (EPFL), l'Escola Politècnica Federal de Zuric (ETH) i el Centre Nacional de Supercomputació Suïssa (CSCS), el qual es presentà feu públic el 2 de setembre de 2025.

Origen i nom L'any 2025 les condicions d'ús de les intel·ligències artificials s'anaren endurint i s'augmentà alhora el control de les grans tecnològiques sobre el desenvolupament de les intel·ligències artificials. Algunes empreses desenvolupadores limitaren l'accés a l'API per als investigadors i reduint la personalització dels models de llenguatge, a més de la imposició de termes d'ús més estrictes. Això impulsà diversos governs a aprovar normativa legal i regulacions sobre les intel·ligències artificials per tal de supervisar qualsevol risc d'amenaça a la privadesa i la llibertat d'expressió, i fou en aquest context que naixeria el model de llenguatge Apertus.

El nom d'Apertus prové del terme "obert" en llengua llatina i fou triat com una esperança que el model fos una alternativa als models privatius oferts per companyies com OpenAI i Google i els seus models ChatGPT i Gemini. Les institucions suïsses dissenyaren Apertus per ser completament obert i permetre que els usuaris puguin revisar part dels processos d'entrenament. Amb l'anunci d'aquest model de llenguatge extens també es publicà la documentació completa, el codi font del procés d'entrenament, i els conjunts de dades que es van fer servir, tot creat sota les rigoroses lleis de protecció de dades i drets d'autor de Suïssa, i també les obligacions de transparència en virtut de la Llei d'IA (Reglament (UE) 2024/1689) de la Unió Europea. Aquesta rigorositat legal convertí el model en una recomanació elegible per a les empreses i companyies que volguessin adherir-se a les regulacions europees, com per exemple l'Associació de Banquers Suïssos, la qual va declarar prèviament un model com aquest tindria "un gran potencial a llarg termini", ja que compliria amb les estrictes lleis de protecció de dades i secret bancari de Suïssa. Un gran avenç en privacitat, ja que fins llavors els bancs suïssos havien utilitzat altres models d'IA de companyies de fora del país.

Apertus es presentà en dues mides de 8B i 70B amb diversos paràmetres des del repositori Hugging Face i mitjançant Swisscom, una empresa suïssa de tecnologies de la informació i la comunicació. Des de Hugging Face es posà a disposició la guia d'instal·lació, encara que requeria certa atenció per fer-ho servir amb la interfície de l'app Ollama. L'objectiu, però fou que qualsevol usuari pogués utilitzar el model de llenguatge, i fins i tot investigadors, aficionats i fins i tot companyies són benvingudes a desenvolupar-lo i adaptar-lo a les seves necessitats. També es podria fer servir per crear xatbots, traductors i fins i tot eines educacionals o d'entrenament.

L'entrenament del model de llenguatge es portà a terme amb 15 bilions de tokens en més de 1.000 idiomes, amb el 40% de les dades en idiomes diferents de l'anglès, incloent-hi l'alemany suís i el romanx. Aquest entrenament va ser realitzat amb dades disponibles públicament, i es declarà que els rastrejadors o crawlers utilitzats van respectar els requisits dels llocs web que bloquegen les IA perquè no s'entrenessin amb aquell contingut bloquejat. Un fet rellevant, ja que companyies d'IA creades anteriorment havien estat acusades de passar per alt bloquejos de webs i s'havien permès l'abús d'entrenar els seus models amb dades no llicenciades per a tal ús.

El model s'ha vist comparat amb d'altres com el Llama 3 de Meta de l'any 2024, però l'equip d'Apertus ha declarat que la seva intenció no és competir amb els pressupostos multimilionaris dels pioners dels Estats Units, i que estan disposats a sacrificar els últims complements dirigits als usuaris generals en favor d'un sistema d'IA més segur i accessible per a investigadors científics i comerç, que permeti un model fiable, sobirà i inclusiu, segons diria Martin Jaggi, professor d'aprenentatge automàtic a l'Institut Federal Suís de Tecnologia de Lausana.

El ritme frenètic de presentació de nous models per part de companyies privades amb pressupostos multimilionaris ha dut també a problemes d'al·lucinacions i biaixos d'aquests mateixos models i una llista creixent de demandes per infracció de drets d'autor sobre el material que les empreses han utilitzat per entrenar els seus models de llenguatge. En canvi, els models de codi obert permeten inspeccionar els seus dissenys i esbrinar com millorar les respostes de forma més transparent. Així, en aquest sentit, Apertus permetria conèixer cada peça del seu model juntament amb el manual de disseny i la fórmula com s'aplica, proporcionant confiança i calma a qualsevol preocupació sobre problemes d'ús de la intel·ligència artificial.

Tot i no ser un projecte únic, sí que seria pioner en la seva escalabilitat i la quantitat de càlcul utilitzada per entrenar-lo. Permetent a més que investigadors i desenvolupadors es descarreguin el model de llenguatge i en facin ús de forma local als seus propis ordinadors, mantenint el control de les seves pròpies dades.

Vegeu també Mistral AI

Referències

Categoria:Aprenentatge automàtic