:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/08/17 01:07
메타 데이터가 있긴한데 이것도 마음만 먹으면 조작할 순 있어서... 뭐 뿐만 아니라 목소리도 딥페이크 시켜서 피싱에 이용될 수도 있죠
AI가 영상이나 사진 등을 분석해서 AI생성으로 제작된건지 아닌지 잡을수 있을진 모르겠지만 그런방향으로 갈 수도 있지 않을까 싶습니다
25/08/17 06:38
할 게 훨씬 많아 질겁니다. 예술은 새로운 것을 찾는 창작의 영역이고, 그것에 자본과 시간이 더 적게 드는 방향이니깐요. 개인이 할 수 있는 영역이 커진 겁니다.
25/08/17 05:40
한동안, 아니 향후 5년 간은 AI 이미지로 각종 사건 사고가 많아질 거라 봅니다.
특히 성범죄에 악용될 가능성이 더 높겠죠. 어느 순간 인스타와 틱톡은 AI 생성물로 넘쳐 날 것이고 이용자들의 외면을 받겠죠. 통 속에 들어가 있지 않지만 메트릭스 안에 사는 것과 다를 바 없는 삶이 될 것 같네요.
25/08/17 09:16
(수정됨) 이제 많이 바뀌겠죠. 뭐 옹호하는 사람들은 '이전에도 합성이나 다른 이미지툴로도 충분히 가능한 일이다'라고 주장하며 큰 변화가 없을 거라 주장하지만, 그 기술의 난이도나 접근성 자체가 말도 안 될 정도로 쉬워졌으니 변화를 일으키는 건 당연한 일입니다. 거기다 그 결과물조차 완성도가 높아서 이전과는 완전 다른 세계가 펼쳐지겠죠. 좋은 방향이든, 혹은 나쁜 방향이던 간에...
25/08/17 09:33
당연히 대응 기술도 따라올겁니다
사진 도용에 따른 피해가 걱정된다면 그것을 추적 적발하는 기술또한 급속도로 발전할거고 AI인지 아닌지 모른다면 AI로 생성된게 아님을 증명, 인증해서 믿을 수 있는 사진을 공유하는 새로운 기술이 등장하겠죠 블록체인이나 DID 같은걸 뻘로 만든건 아니니까요 나를 드러내고 표현하는건 인간의 근본적 욕망같은거라 수익이 따라오고, 돈이 있는 곳에는 다 대책이 있기 마련이죠
25/08/17 10:03
기술이 빨라진만큼 사건,사고,부작용이 먼저 올 것이고 대응기술은 나중에 올거라고 봅니다.
기술발전은 안 할 수는 없고, 그렇다고 법과, 대응기술과 동시에 같이 나오기엔 그것도 돈과 시간이 들테니 어쩔 수 없겠죠. 그럼 돈이 먼저 쓰이거나 쓰임 당해지는 쪽이 어느 쪽부터일지는 뻔하잖아요.
25/08/17 10:26
이제 그림쪽은 진짜 '특이점'수준에 이르렀다 보고 완전 '육체노동'인 분야를 제외한 다른 분야도 머지 않았습니다. 최근에 구글, OAI 비공개 모델 모두 IMO 금메달 땄음.
25/08/17 11:53
오히려 웹소설이나 그런 장편 스토리쪽은 늦게 대체되지 않을까요?
이미지 같은건 잘합성해도 장기 기억능력은 아직 허술해서 소설쓰라고 하면 갈수록 아무말 대잔치인거로 아는데... 장기기억능력까지 대체되면 진짜 육체노동 제외하면 암담해질지도 모르겠네요.
25/08/17 11:55
장기기억만이 아니라 그냥 스토리도 못짭니다. ai한테 웹소 쓰라고 하면 제일 큰 문제는 그냥 재미가 없다는 거라...도파민 도는 전개나 이런 걸 아예 못하는 수준인데 여기에 장기 기억력까지 한계가 있으니 될 수가 없죠.
25/08/17 11:59
글쎄요... 장기기억도 계속 돌파구를 찾고 있습니다. 불과 2년전에 '세종대왕이 아이패드 던졌다'하던 수준이었다는 걸 상기 해보시면 됩니다. ChatGPT이전에는(2022년 11월 이전) 아예 말귀를 못알아 듣는 수준이었구요.
25/08/17 12:34
실제로 써보면 느껴지는 차이는 gpt 4(4o아님)가 5까지 오는 동안 본질적인 문제가 전혀 고쳐지지 않아서 체감이 안됩니다. gpt4 때만 해도 프롬질 빡세게 해서 문체 학습 시키고 쓰게하면 지금이랑 차이가 없었어요. 이건 실제로 안써본 분들이 오히려 막연하게만 알고 있어서 그러는데 본질적인 문제점은 먼지만큼도 해소가 안 됐습니다. 그냥 롱컨텍스트만 늘어났을 뿐이지 그때나 지금이나 진짜로 장편 웹소를 쓸 때 내가 얠 어시로 쓰겠다는 용도라면 놀라울만큼 발전 속도가 느립니다
25/08/17 12:05
현 수준이 아니라 속도를 봐야 합니다
인간의 모든 활동은 신경망의 전기자극에 불과하기 때문에 지식노동은 원론적으로 하나가 대체될 수 있다면 다른 쪽도 다 대체될 수 있어야 합니다 육체노동은 그동안 로보틱스가 물리적인 제조, 테스트 시간과 자원이 들어가기 때문이지 ai와 접목해서 발전하고 있는 시점에 안전하다고 할 수 있는 분야는 없다고 생각해야 합니다.
25/08/17 12:37
그 발전 속도가 장편 소설의 경우 가장 체감이 안될만큼 느립니다. 그럴듯한 문장이야 원래 프롬질로 해결이 가능했고 문제는 일관성과 웹소 특유의 드립이랑 도파민쪽 전개를 보충해야 하는데 옛날도 지금도 ai는 이게 0입니다. 냉정히 말해서 아예 발전이 안돼서 속도를 따질 수가 없어요. 애초에 지금 ai 발전 방향 이 이쪽이랑 전혀 상관이 없이 더 논리적이고 더 코딩 잘하는 쪽이라....agi가 나오면 대체가 될 거 같습니다만 agi 나오면 기계공학도 미친듯이 발전할 테니 전 인류가 2년 내로 실업자가 되겠죠 흐흐
25/08/17 12:51
(수정됨) 에이전트도 오고 있는 상황이라 그리 긴시간은 걸리지 않을듯 합니다.
그리고 완전 대체는 시간이 더 많이 걸릴걸려요. 대체된다는게 완전 자동화 된다는 얘기가 아닙니다. 필요한 사람이 줄어들 뿐이죠. 이제 대체 된다고 떠드는 분야도 아직 사람 손은 많이 필요해요. 그림도 나노 바나나 까지 나온 수준이지만 아직 사람 손은 필요할겁니다. 다만 필요한 인력 수가 줄뿐이죠. 장편소설에 대해서도 비슷하게 봅니다.지인이 컨텍스트 능력 제일 좋은 제미니로 장편소설 시도하는사람 봤는데 나름 대로 잘 활용하던군요. 이 사람은 전업 작가가 아닌데 예전보다는 확실히 진입장벽이 낮아진걸로 보입니다. AI이전에는 엄두도 못냈으니깐,...
25/08/17 13:14
쓸 수 있는 수준이 아니라 그걸로 유료화가 되냐는 아예 다른 문제니까요. 쓸 수 있는 수준이면 이미 프롬질로 gpt4 시절부터 아무 문제 없이 됐습니다. 장기 기억도 요약 방식으로 새로 퍼먹이면서 하는 방식으로 대체가 됐고요. 전 gpt 프로랑 제미나이 울트라까지 다 쓰는데 지금도 예전도 다를 게 없습니다. 좋아진 거라고는 자료를 잘 찾는다는 거죠. 원래도 글먹하던 사람이 시간을 좀 더 줄이거나 편리하게 관리할 수는 있겠지만 그게 안되는 사람이 되게 할 수가 없습니다. 그냥 문피아나 노피아에 연재 해보라고 하면 성적 얼마나 나오는지 단시간 내에 아주 객관적인 지표가 나오기 때문에 이건 반박의 여지가 없습니다. 예전에는 엄두를 못냈다는 사람이 있다면 그 사람은 소설용으로 애초에 ai를 잘 못썼다는 겁니다. 위에도 말했지만 냉정하게 지금 되는 건 gpt4 시절에도 다 됐거든요. 롱컨텐은 진짜 부차적인 문제일 뿐입니다. 그건 애초에 옛날에도 요약 프롬 만들어서 새로 떠먹이는 방식으로 얼마든지 극복이 됐어요. ai 소설의 근본적인 문제는 그냥 예나 지금이나 순수노잼이라는 거고 이건 개선이 아예 안된거나 마찬가지라는 겁니다.
25/08/17 13:27
실제로 얼마전에 초기 구상부터 ai를 이용해 짜고 ai가 추천한 전개와 문장으로 소설을 써서 올렸는데 알고보니까 이미 존재하던 소설을 그냥 복붙한 수준으로 겹쳐서 글을 내렸던 사람이 인증까지 올려서 꽤 화제가 된 적이 있습니다. 지금의 llm은 결국 짜집기의 화신이 될 수밖에 없으니 저런 경우도 생기는 거죠. 드립이 아니라 클리셰를 넘어서 진짜로 히트작의 전개 캐릭터성 대사까지 긁어오는 경우가 생기니 자기도 모르게 당할 수도 있습니다
25/08/17 13:34
(수정됨) 한방에발할라 님// 예전에 안되었다는 얘기는 AI이전시절을 얘기한거긴 합니다. 잘쓰는 사람이야 심지어 GPT 3.5가지고도 했겠지만 전업이 아니면 복잡하게 써야 결과낼수 있을때보다 2.5프로로 하는게 더 진입장벽은 낮아질거구요.
그리고 다시 한번 얘기하면 타분야라고 AI 적용함에 있어서 난점이 없는게 절대 아닙니다. 제 분야도 아직 멀은 측면이 많아요. Gpt초기버전과 비교해도 근본적으로 큰 발전이 없는 부분도 있구요. 하지만 제 분야에서 몸쓰는 부분말고는 머지 않아 상당부분 대체될거고, 지금도 작정하면 일부대체 가능하다고 전 생각합니다.
25/08/17 13:42
llm은 확률에 따라 다음 토큰을 생성하는 방식이죠.
도파민은 호기심, 창의성이랑 연결되고, 사람들이 쉽게 떠올리지 못하는 확률 낮은 조합을 찾아내는 과정이죠. 그리고 그 찾아낸 결과물이 지나치게 대중의 인식과 괴리되어 있지 않음을 검증해야 할 필요도 생깁니다. 따라서 온도를 높이고 시행 횟수를 늘린 후 가지치기 하는 과정이 인간과 동일하게 발생할 수 밖에 없는데, 이걸 한 번의 딸깍 프롬프트로 얻는 것은 NP=P 를 증명하는 것과 같은 겁니다. 하지만 그림과 음악의 사례에서 볼 수 있듯, 결국은 먹히는 패턴을 찾아낼 수 있었고, 그걸 사전학습으로 주입한 결과가 지금의 부실하고 허접한 프롬프트에도 마스터피스를 쫙하고 뽑아주는 나노바나나 같은 모델이죠. 근원적으로 이들이 다르지 않기 때문에 낙관할 수 있는 겁니다. 지수적 성장은 초반엔 티도 안나는 법이니까요.
25/08/17 14:06
온도랑 top p, k 조절하는 거야 이미 예전부터 죽어라고 했던 거고 그건 특정 모델과 프롬프트에서 내게 맞는 최적의 결과값을 뽑아낼 때 건드리는 것도 저거 해온 사람들은 이미 도가 텄습니다. 수년 전부터 이미 어떻게든 잘 써먹어 보려고 죽어라고 파본 사람들은 대부분 비슷한 말을 하는데 이런 건 보통 제대로 안써본 분들이 지나치게 낙관적이더군요. 단순히 창의성 문제가 아닙니다. 그림 쪽은 냉정하게 말하면 스테이블 디퓨전으로 야짤 뽑을 때부터 이미 소위 말하는 싹수가 보였습니다. 근데 소설 쪽은 그게 예전에도 지금에도 전혀 달라지지가 않았어요. 괜히 gpt4에서 5까지 오는 동안 달라진 게 없다고 하는 게 아닙니다. 언젠가는 대체가 되겠지만 지금의 발전 속도로는 agi가 나올 때쯤에나 대체가 되겠다는 거죠
25/08/17 14:19
구조적으로 그림과, 음악, 글은 다르지 않습니다. 괜히 처음 댓글에서 인간의 신경망 활동에 불과하다고 언급한게 아니에요.
차이라면 글자가 그림과 음악으로 변환되는 것과 글자가 글자로 변환되는 것에서 기인할텐데, 이는 문자의 해상도가 턱없이 낮아서 그럴 가능성이 좀 있죠. 근데 그건 속도의 차이일 뿐이란 겁니다. 싹수란 것도 어떠한 특이점을 지나야 보이는 법이고, 아직 글에서는 그 싹수가 안보일 뿐이란 것이겠죠. 결국은 시점의 문제라는 이야기입니다.
25/08/17 15:45
저도 한방에발할라님과 비슷하게 아직 멀었다는 느낌이었는데, 나노 바나나 보니까 생각이 바뀌었습니다.
이러다가는 슬슬 글에도 싹수가 보이겠는데요.
25/08/17 15:49
조조 님//
개인적으로는 그림과 음악은 국경이 없지만, 문자는 있다는 점이 한국 문학 ai의 걸림돌이라 생각합니다. 저같아도 openai나 앤트로픽에서 한국 웹소설에 높은 가치를 두고 학습시키지는 않을 거 같아요.
25/08/17 16:29
모링가 님// 저도 위에서 말했는데 그 문제가 상당히 크다고 보고 있습니다. ai쪽은 지금 점점 더 논리적이고 추론을 잘하면서 코딩을 잘하는 쪽으로 발전하고 있지 한국어로 웹소설 잘쓰게 노력을 기울이는 건 까놓고 말해 아예 가치가 없기 때문에...작곡이나 그림, 동영상은 국경이 없다지만 글은 그것도 아니니까요.
25/08/17 13:43
(수정됨) 저는 오히려 양극화 되리라 생각합니다. 자신의 사진으로 할수있는게 더 많아지기 때문에 가치가 더 올라갑니다.
더 잘생기게 더 예쁘게 더 멋있게 다 잘사는것처럼 보이게 할수 있고, 그냥 예쁘기만하면 더 유명해지기 쉽고, 내가 하지 못하는것도 더 쉽게 과시하거나 가장할수 있어집니다. 이런걸 싫어하는사람은 더 자신을 숨기게 되지만, 동시에 금전적 유명세적 보상을 원하는 사람은 더 활용할겁니다. 심지어 성적인 이미지도, 이제는 몸을 팔지 않고도 자신의 성적인 이미지를 팔 수가 있게 됩니다. Onlyfans 같은 대중들이 올리는 신 플랫폼이 기존의 포르노 시장을 대체 하는것과 궤를 같이합니다. 이 환경 속에 자라나는 새 세대들은 거꾸로 자신의 이미지가 성적으로 소비되는것을 두려워 하지 않게 될 수도 있습니다. 합성인데 뭘~ 하면서 넘기는 시대가 될 수도 있습니다. 결국 우리가 두려워 해야하는 것은 기술이 아닙니다. 우리는 배금주의를 두려워 해야 합니다.
25/08/17 13:52
사진이나 동영상의 신뢰성이 줄어들었다는건데.. 어쩌면 그건 크게 문제될건 아닐수 있다고 봐요.
애초에 인류역사에서 지금처럼 신뢰성 높은 물건을 보편적으로 손쉽게 확보하는 경우가 없었어요. 이게 이례적인 상황인거고 어쩌면 최근 몇십년간 잠깐 비정상 상태였던게 정상화되는것일지도 모르죠.
|