Samsung ugradio ChatGPT u proizvodnju, ovaj otkrio poverljive podatake

Samsung je nedavno uveo ChatGPT, sa ciljem da zaposlenima pomogne u proizvodnji čipova. Ideja je bila da zaposleni u Samsung Semiconductor-u praktično dobiju AI asistenta, koji bi im pomagao u raznim procesima, kao što je brzo ispravljanje grešaka u izvornom kodu. Međutim, nakon samo tri nedelje, došlo je do curenja poverljivih informacija o čipovima.

Do otkrivanja poverljivih podataka je došlo kada su zaposleni u Samsungu uneli važne interne informacije, kao što su podaci o opremi za proizvodnju čipova i izvorni kod u ChatGPT. Ove informacije su postale deo baze podataka koju ovaj AI servis koristi za obuku i dostupne su svima koji ga koriste.

Do sada je Samsung Semiconductor zabeležio tri slučaja kada je došlo do otkrivanja važnih podataka. Iako to možda ne deluje mnogo, sve se dogodilo tokom perioda od samo 20 dana.

ChatGPT kažnjava neoprezne i neodgovorne

U jednom slučaju je zaposleni uneo u ChatGPT izvorni kod kompanijskog programa kako bi popravio greške, što je u suštini otkrilo strogo poverljive podatke veštačkoj inteligenciji koju vodi neka druga kompanija.

Drugi slučaj je bio možda još alarmantniji jer je drugi zaposleni uneo test obrasce koji treba da identifikuju neispravne čipove. Sekvence testova koje imaju za cilj da identifikuju defekte su strogo poverljive. Optimizacija ovih test sekvenci i eventualno smanjenje njihovog broja, može ubrzati procedure testiranja i verifikacije čipova, što značajno smanjuje troškove.

shutterstock

Treće “curenje” se desilo kada je zaposleni konvertovao snimak sastanka u dokument, a zatim taj dokument uneo u ChatGPT kako bi mu AI četbot napravio prezentaciju.

Samsung je preduzeo mere da spreči dalje otkrivanje informacija, uključujući instrukcije zaposlenima da budu oprezni u vezi sa podacima koje dele sa ChatGPT-om i ograničavanje kapaciteta svakog unosa na maksimalno 1.024 bajta. Kompanija je takođe pojasnila da kada se informacije unesu ChatGPT, one se prenose na spoljne servere.

Ovaj incident naglašava važnost bezbednosti podataka i potrebu da kompanije pažljivo razmotre potencijalne rizike i koristi od uvođenja AI alata. Dok AI “četbotovi” definitivno mogu poboljšati efikasnost i pojednostaviti procese, oni takođe zahtevaju odgovarajuće mere zaštite i obuku kako bi se osigurala poverljivost i bezbednost osetljivih, internih, kompanijskih informacija.

Samsung zbog ovog incidenta, planira da razvije sopstveni AI alat sličan ChatGPT-u za internu upotrebu.