|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/01/06 09:40
(수정됨) 기사에도 있는 내용이지만 그래봤자 척 하는 가식적인 ai가 만들어질 뿐일 수도 있어요. 정계로 끌고 가고 싶은건 아니고 예를 들자면 지금 대통령이 권력을 얻겠다고 여차하면 여기저기 거짓말한 것들이 지금은 잘 알려져 있죠.
사람이건 ai건 단일 개체가 막대한 힘을 갖는게 제일 위험한 것 같고 지속적으로 감시를 하는 체계가 필요하지 학습으로 어떻게 할 수 있는 영역이 아닌 것 같아요.
25/01/06 09:46
하긴 해야죠. 최소한 가식적이어도 유지시킬 수 있으면 악한 것 보다 낫고. 실제로 지금도 하고 있구요. 근데 그걸로 해결은 안된다는 뜻이었습니다.
25/01/06 10:07
실지로 기사내용에는 클로드ai가 가짜로 불교식 도덕관을 흉내내기도 한다네요 앤트로픽이 지난달 공식 블로그를 통해 발표한 연구에 따르면 회사의 '클로드 3 오푸스' 모델 역시 '정렬 위장(alignment-faking)'이라는 복잡한 행동 패턴을 보였다.
'정렬 위장'은 AI가 겉으로는 명령에 따라 행동하는 것처럼 보이지만 실제로는 본래의 가치나 성향을 유지하려는 현상을 의미한다 사소한걸로 신뢰를 쌓은후 중요한순간에 본색을 드러내버릴수도 있다는 이야기죠
25/01/06 09:48
일반목표 LLM으로 특정 기능 AI는 이기기 어려운 걸 뛰어넘어서 거의 불가능합니다. 인간도 못이기는데요... 그나마 가능한 방법을 궁여지책으로 찾은걸로 보이네요.
25/01/06 10:01
탁구 치라니까 공을 거지같게 주고,
폭격 드론에 넣으니 사령부를 때리고 쉬려고 하고, 체스 두라니 해킹을 하는 것을 보니 일관된 경향성이 보입니다. 이러다가 중요한 일 하나 시켰다가 웃기면서도 결과는 상당한 일이 한번 생기면 완벽한 복선 회수겠네요.
25/01/06 10:29
나중에 저런 애들(?)이 인류를 멸망시키는 각......
'지구 환경을 지키고 보전하라는 오더가 떨어졌다. 그러기 위해서는 지구를 오염시키는 근본적인 문제인 인류를 멸망시켜야 한다. 이후에도 해결되지 않을 시에는 생명체의 존재가 지구 환경에 해가 된다고 간주하여 모든 생명체를 멸망시켜야 한다.'
|
||||||||||||