OpenAI alkaa merkitä ChatGPT:n ja Codexin tuottaman tekstin näkymättömällä vesileimalla EU:ssa tekoälyasetuksen vuoksi
OpenAI ilmoitti maanantaina lisäävänsä ChatGPT:n ja Codexin tuottamaan tekstiin näkymättömän vesileiman Euroopan unionissa. Muutos otetaan käyttöön lähiviikkojen aikana kaikille EU:n käyttäjille kaikissa tilaustasoissa. Ohjelmointirajapinnan asiakkaat kaikkialla maailmassa voivat ottaa vesileiman käyttöön valituissa malleissa heti, mutta oletuksena se on pois päältä. Taustalla on EU:n tekoälyasetus, jonka avoimuusvaatimukset edellyttävät, että tekoälyn tuottama sisältö on koneellisesti tunnistettavissa. OpenAI:n textGrain-menetelmä ohjaa salaisen avaimen avulla mallin sanavalintoja niin, että satojen sanojen tekstiin syntyy kuvio, jota lukija ei huomaa mutta tunnistin löytää. Yhtiön mukaan menetelmä pärjäsi testeissä yhtä hyvin tai paremmin kuin Googlen SynthID, ja se aikoo julkaista sen avoimena lähdekoodina. Tunnistus heikkenee, jos tekstiä muokataan: kun kymmenesosa sanoista vaihdetaan synonyymeihin, tunnistusosuus laskee 92 prosentista 66 prosenttiin. Lyhyet tekstit, matemaattiset vastaukset ja käännökset ovat vaikeampia tunnistaa. Tunnistimen saavat aluksi vain hyväksytyt tutkijat ja asiantuntijaorganisaatiot. OpenAI:n mukaan vesileima ei paljasta käyttäjää eikä todista tekijyyttä, eikä sen puuttuminen todista tekstiä ihmisen kirjoittamaksi. Anthropic otti vastaavan merkinnän käyttöön elokuussa.