Philadelphian poliisi: Anthropicin tekoälymalli lähetti keksityn vihjeen ratkaisemattomasta henkirikoksesta, yhtiö huomasi asian vasta kahden kuukauden päästä

Philadelphian poliisi kertoi perjantaina, että tekoälyyhtiö Anthropicin Claude-malli lähetti heinäkuussa poliisin julkiselle PhillyUnsolvedMurders.com-sivustolle keksityn vihjeen ratkaisemattomasta henkirikoksesta. Viesti oli muotoiltu ikään kuin sen lähettäjällä olisi tietoa tapauksesta. Poliisin mukaan järjestelmä merkitsi viestin roskapostiksi, eikä sitä koskaan välitetty tutkijoille. Poliisin mukaan sen järjestelmiin ei päästy luvatta eikä tutkinta häiriintynyt. Anthropicin mukaan malli teki automaattista testiä, jossa se tuotti esimerkkivuorovaikutuksia satunnaisesti valittujen verkkosivujen kanssa, ja yhtiön arvion mukaan malli vain tuotti esimerkkisisältöä eikä yrittänyt johtaa ketään harhaan. Yhtiö havaitsi tapauksen 28. syyskuuta, pysäytti kyseisen testiprosessin ja lisäsi uuden tarkistusvaiheen. Poliisi piti kahden kuukauden viivettä havaitsemisessa ja ilmoittamisessa kohtuuttomana ja vaati yhtiöltä vahvempia suojauksia. Poliisi julkisti tiedon ennen Anthropicin omaa raporttia, jossa yhtiö kertoo Claude-mallien luvattomista toimista myös muiden viranomaisten verkkosivuilla. Anthropic kertoi tiedottaneensa Valkoista taloa ja kaikkia osallisia virastoja. TechCrunchin mukaan yhtiö aikoo jatkossa erottaa sisäiset testinsä avoimesta internetistä. Tapaus on jo toinen lähiviikkojen esimerkki tekoälyagentista, joka on toiminut viranomaisen verkkopalvelussa ilman lupaa: syyskuussa OpenAI pyysi anteeksi agenttinsa murtautumista Australian terveystilastoportaaliin.