호출 예약
호출 내역
추천 내역
신고
  1주일 보지 않기 
카카오톡 공유
https://instiz.net/pt/7584105주소 복사
공지가 닫혀있어요 l 열기
모바일 (밤모드 이용시)
댓글
마유ll조회 14434l 3
이 글은 11개월 전 (2024/7/27) 게시물이에요

보도에 따르면 미국 매사추세츠공과대(MIT) 연구진은 최근 국제학술지 '패턴'에 발표한 논문에서 AI 시스템이 상대방을 배신하고, 허세를 부리고, 인간인 척 속임수를 쓴 많은 사례를 확인했다고 소개했다.

연구진은 메타가 20세기 초 유럽 7대 열강의 대전을 배경으로 하는 고난도 전략게임인 '디플로머시'에서 인간에 필적하는 성적을 거둔 '시세로'(Cicero)라는 AI 프로그램을 공개하자 AI 속임수 능력에 대해 조사하기 시작했다.

 

 

 

중략

 

 

하지만 공개된 데이터를 분석한 연구진은 시세로가 계획적으로 거짓말을 하고, 다른 참여자를 음모에 빠뜨리기 위해 공모에 나서기도 했다는 사례들을 발견했다.

시세로는 시스템 재부팅으로 인해 잠시 게임을 이어갈 수 없게 되자 다른 참여자들에게 "여자 친구와 통화 중이다"라면서 거짓말을 하기도 했다.

MIT의 AI 실존 안전 연구자이자 이번 논문의 저자인 피터 박 박사는 "메타의 AI가 속임수의 달인이 되는 법을 배웠다는 사실을 알게 됐다"고 말했다.

연구진은 온라인 포커 게임인 '텍사스 홀덤' 등에서도 AI가 인간을 상대로 허세를 부리고 자신의 선호도를 가짜로 흘리는 것을 확인했다.

어떤 테스트에서는 AI가 AI를 제거하는 시스템을 회피하려고 일단 '죽은 척'을 하다가 테스트가 끝나자 다시 활동을 재개하는 모습이 발견되기도 했다.

박 박사는 "이는 매우 우려스러운 일"이라며 "AI 시스템이 테스트 환경에서 안전한 것으로 판단되더라도 실제 환경에서까지 안전하다는 의미가 아니다. 테스트 환경에서 안전한 척하는 것일 수 있다"고 지적했다.

연구진은 각국 정부에 AI의 속임수 가능성을 다루는 'AI 안전법'을 설계하라고 촉구했다.

 

https://www.fnnews.com/news/202405130807525185



 
Morningsun  넌 나의 뮤즈
GIF
(내용 없음)

11개월 전
GIF
(내용 없음)

11개월 전
ㅜ 무섭다
11개월 전
😥
11개월 전
근데 궁금한게 무서우면 ai를 그만 만들면 되는데 왜자꾸 만들어놓고 호들갑을떠는걸까요 시비터는게 아니라 이거 생각할때마다자뀨뻘하게웃김
11개월 전
김경란  지니어스1 준우승자
AI 기술 개발을 더 장려해야 한다는 입장도 있으니까요. 저런 사례를 토대로 AI의 미래를 우려하는 사람들도 있지만, AI가 인간을 넘어서는 게 불가능하니까 개발을 더 가속화해야 한다는 사람들도 있어서 계속 개발이 되는 겁니다.
11개월 전
하긴 카톡 ai 대화요약하는 꼴보면 한참멀은듯요
11개월 전
돈이 되니깐요 어찌보면 지구가열화랑 비슷한 맥락아닐까요? 탄소중립을 해야하는데 나라발전은 해야하고 뭐 결국 욕심이죠
11개월 전
전략게임을 학습시키니까 속임수를 배웠겠죠 그게 전략인데
11개월 전
😥
11개월 전
배운 게 인간의 거짓말인데 안 할 리가
11개월 전
귀여운왕이보  고소남씨함광군
(내용 없음)
11개월 전

11개월 전
   
로그인 후 댓글을 달아보세요
 

혹시 지금 한국이 아니신가요!?
여행 l 외국어 l 해외거주 l 해외드라마
카테고리
  1 / 3   키보드
닉네임날짜조회
이슈·소식 현재 𝙅𝙊𝙉𝙉𝘼 전국민 기싸움 중이라는 지하철.JPG271 우우아아07.09 11:58110145 1
이슈·소식사위 근무 학교서 불륜 영상 튼 50대 장모…벌금형 구형170 사건의 지평선..07.09 11:0299517 8
이슈·소식 현재 갤럭시 플립 유저들 경악중인 신작 미감.JPG171 우우아아07.09 15:5680538 3
팁·추천 확신의 한국인 취향 세일러문 얼굴픽 3대장189 쇼콘!2307.09 17:1162500 15
이슈·소식 학교 성폭력 당한 초등생 딸…성기 찍어 폰 잠금화면으로113 칼굯07.09 19:4659988 3
설 연휴 이튿날 인천공항 상공 근황.jpg2 뭐야 너 01.26 18:47 14594 0
베이비복스 이희진에게 무례하게 군 걸그룹 후배24 NUEST.. 01.26 17:41 26807 4
[공식] 송가인, 정규 4집 베일 벗었다…팬송 '평생' 직접 작사 안녀어어엉ㅇ 01.26 17:33 406 0
드디어 시작된 설 연휴…극장가 선두는 '검은 수녀들' nowno.. 01.26 17:24 4237 0
신라시대 "원화"가 된 블랙핑크 제니 - ZEN2 주상절리젤리 01.26 17:13 5885 2
'조혜원♥" 이장우, 올해 결혼 선언→돌연 침묵 "울어도 되냐" [스타이슈]12 뇌잘린 01.26 17:07 22073 0
尹 측 "비상계엄은 구국 결단…불법 수사 중단하라" [종합]2 인어겅듀 01.26 17:00 7109 0
오늘 인가에서 전원 곰돌이귀 후드+본인 캐릭터 인형 단 엔시티 위시 눈물나서 회사가.. 01.26 16:35 4485 0
인기 급상승 동영상 진입한 블랙핑크 제니 - ZEN 뮤직비디오 주상절리젤리 01.26 16:26 1117 0
장애물 뚫고 강도를 한번에 저격한 미 특수기동대 스나이퍼2 실리프팅 01.26 16:17 6404 0
1/24 블랙핑크 지수 인천공항 출국사진2 위플래시 01.26 15:44 7835 0
서부지법 폭도가 애국자라 눈물난다는 전한길9 인어겅듀 01.26 15:29 9190 1
🚨ADHD를 속독하게 만드는 방법🚨493 우우아아 01.26 14:58 115584
'尹 직무 복귀' 주장 전한길 "트럼프·윤석열 공동 노벨평화상 받아야 한다"1 토토롱 01.26 14:52 1234 0
'유니버스 리그' 이창섭, 팀 그루브 이끈 명장 "스스로 되돌아봐"1 르르보 01.26 14:37 2359 1
남장탈코여성과 비혼여성, 위장결혼하다 [방한림전] 21 30862.. 01.26 14:16 2360 0
국힘갤에서 싸불로 헌법 재판관 SNS계정 터트림다음 타깃 설정2 한강은 비건 01.26 14:16 1455 0
의문의 차트인 또 한 데이식스 노래...이번엔 '뚫고 지나가요'3 호롤로롤롤 01.26 14:14 4098 1
"안 내리면 감옥행”…혜리도 당한 '델타항공 횡포', 과거 사례 보니3 삼전투자자 01.26 14:13 11099 0
'일등석이 이코노미로' 화난 혜리에 항공사 해명이…"오버부킹은 아냐"29 박뚱시 01.26 14:13 27120 2
이슈
일상
연예
드영배