|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/02/27 13:41
데탑에 딥시크 7B 모델 올려서 한글로 물어보니 저렇게 한자가 섞인 답변을 해준던데 말이죠.
(대충 한자가 섞여나오는 AI 결과물은 허접하다는 뜻)
25/02/27 14:04
이게 기본적으로 애플의 Ai는 개인 프라이버시를 강조하면서 온 디바이스 Ai를 중점으로 하고 있어서요. 근데 우리가 만족하고 쓰는 Ai인 챗 GPT 서버랑 비교하면 온 디바이스 Ai는 갓난아기 수준도 못되는거라 많이 힘들죠.
특히나 요약 기능은 기기 내 정보를 다루는거라 챗GPT를 빌려 쓰지 않거든요. 해서 이모양인거죠.(더군다나 한글은 영문보다 학습 레퍼런스도 적고 처리해야 할 토큰 수도 많으니까요.) 이걸 해결하려면 온 디바이스 성능을 보완해준다는 애플 자체 Ai 서버가 뒤에서 지원해줘야 하는데 아직 그 규모도 크지 않고요. 그래도 고무적인건 딥샤크가 나옴에 따라 엔비디아의 텐서코어만이 해결책은 아니라는 선택지가 생긴 점. 이로 인해 애플이 Ai 서버에 투자만 한다면 빠른 시기에 성능 향상을 노릴 수 있단겁니다. 최근 뉴스에 따르면 TSMC의 미국 공장에서 애플 Ai 서버용 M5 칩셋을 양산할 준비라고 하니 기대해봐도 되겠죠.
25/02/27 14:35
그 핑계대기에는 오픈되어있는 저용량LLM들이 요약 능력이 저정도로 처참하진 않아서, 온디바이스 핑계대긴 힘들구요.
갤럭시도 온디바이스 인데, 알림 요약기능은 제공하지않지만, 통화요약이나 웹페이지 요약 등등에서 크게 우스갯거리 되지 않고, 가끔 초월요약으로 신기할 정도지요. 그리고 Deepseek 이고..
25/02/27 13:54
갤럭시는 빅스비를 아예 내려버리고 제미나이를 전면에 세운 다음에 기기 컨트롤이 필요할 때 빅스비를 부르는 방식으로 되어 있는데
애플은 여전히 시리를 전면에 놓고 그냥 api로 챗지피티를 불러오는 수준으로 보입니다...
25/02/27 14:05
저런 요약 기능에는 챗GPT를 쓰지 못합니다.(정확히는 애플이 안쓴다고 공언했습니다.) 챗GPT가 쓰이는 곳은 시리에게 질문할때 뿐이죠.
25/02/27 14:22
api로 챗지피티를 불러오는 수준이라 하셔서 적은겁니다. 요약기능에는 챗GPT가 쓰이지 않는단 의미로요.
마찬가지로 갤럭시도 온 디바이스 처리는 기기 자체 Ai랑 클라우드 Ai서버를 이용합니다. 애플과 갤럭시의 성능 차이는 이 클라우드 Ai서버의 완성도 차이인거죠. 실제로 갤럭시도 '내 기기에서만 데이터 처리'기능을 활성화 시켜 클라우드 서버의 도움도 받지 않으면 요약기능이 형편 없습니다.
25/02/27 14:22
갤럭시로 온디바이스 처리해도 저 정도는 아닙니다.
제가 쓰고 있거든요. 제가 처음에 적은 내용은 온디바이스 처리가 처참한 걸 떠나서 애초에 애플의 ai에 대한 접근 방식이 갤럭시에 미치지 못한다는 이야기를 하고 싶었던 겁니다.
25/02/27 14:29
그렇다기엔 딱히 갤럭시의 Ai운용과 애플 Ai의 운용 방식이 다른것도 아닙니다. 그냥 완성도 차이에요. 삼성이 Ai 시스템 구축할때도 구글의 지원을 받았어서(그래서 제미나이를 전면에 내세운거라 표현하신거 같은데 삼성측에선 가우스라고 따로 자신들 Ai 시스템을 부릅니다. Ai 처리할때도 구글 자원을 쓰지 않고요. 시리처럼 질문할때만 제미나이를 호출하는 형태죠.) Ai 완성도 자체는 높습니다.
25/02/27 14:37
그러니까 말그대로 자체적인 AI기술인 온디바이스 완성도..가 처참하다는건데요.
챗GPT 덕분에 클라우드 AI는 어찌저찌 해결한거구요. 통쾌했어요.. 짤이 떠오르네요.
25/02/27 14:43
(수정됨) 챗GPT와 클라우드 Ai는 다른겁니다.;;;;
기기내 데이터를 처리할때 온 디바이스 성능 만으로는 안되니까 외부 서버의 연산만을 빌리는게 클라우드 Ai 개념인거고요. 챗GPT는 그냥 시리가 기기 데이터를 쓰지 않는 외적인 질문을 챗GPT로 던지는거에요. 예를 들어 사진 찍었을때 이 사진에 대한 설명을 시리에게 요구하면 시리는 챗GPT에게 사진 데이터와 함께 질문을 넘기는거죠.
25/02/27 15:34
(수정됨) 하루빨리 님// 개념자체가 다르긴 뭔 달라요.
클라우드AI는 분류중의 하나고, ChatGPT는 클라우드 AI입니다. 같다는게 아니라. 분류에 포함되는거죠. 애플은 ChatGPT같은 클라우드AI 기술이 처참하기 때문에, 클라우드AI는 자체개발클라우드AI가 아닌 ChatGPT로 넘겨서 씁니다. 그럼 클라우드AI는 ChatGPT덕분에 처리할수있다고 말하는게 뭐가 잘못된거죠? 뭘 말하고 싶으신지? 애플은 뭔가 못하는게 있으면 안되는 회사인가요? 결론은 온디바이스로 돌릴만한 소용량LLM 기술도 처참하고 클라우드AI도 자체기술이 ChatGPT 빌려쓰는거라는건데요.
25/02/27 15:38
(수정됨) 제발존중좀 님// [챗GPT 덕분에 클라우드 AI는 어찌저찌 해결한거구요.] 이 문장 자체라 말이 안된다는거죠. 챗GPT를 클라우드 Ai용도로 쓰지 않는데 어떻게 챗GPT 덕분에 해결이 된단 겁니까
본문의 저 결과가 그럼 챗GPT의 도움을 받고도 저 모양이란건가요? 전 애플 옹호한 적이 없어요. 첫 댓글에 대한 지적 자체가 애플의 옹호라기 보단 그냥 요약기능에는 챗GPT가 쓰이지 않는다는 반박을 한거였습니다. 그게 길어져서 여기까지 온거에요.
+ 25/02/27 15:40
(수정됨) 하루빨리 님//
뭔소리에요. 본문은 자체 온디바이스 기술이 처참하다는거고요. 챗GPT를 클라우드 Ai용도로 안쓴다고 누가 그런답니까? 그런 무슨용도로 쓰죠? 온디바이스AI기능이 처참하다는 말을 하고 있는데 '온디바이스요약기능에는 CHATGPT가 사용되지 않았습니다' 하는 말을 하시는 분이 더 이상한거 아닌가요? [그렇다기엔 딱히 갤럭시의 Ai운용과 애플 Ai의 운용 방식이 다른것도 아닙니다. 그냥 완성도 차이에요. 삼성이 Ai 시스템 구축할때도 구글의 지원을 받았어서(그래서 제미나이를 전면에 내세운거라 표현하신거 같은데 삼성측에선 가우스라고 따로 자신들 Ai 시스템을 부릅니다. Ai 처리할때도 구글 자원을 쓰지 않고요. 시리처럼 질문할때만 제미나이를 호출하는 형태죠.) Ai 완성도 자체는 높습니다.] 본인이 쓰신 댓글입니다. 시리AI 완성도가 높다고 본인이 말씀하셨습니다. 시리 AI = 온디바이스애플AI+클라우드AI는 ChatGPT 라고 할수있겠는데 그래서 온디바이스 기술 처참하고, 클라우드 AI도 다른회사 기술 가져다 쓴다는 말을한건데요. 이게 눈가리고 아웅하면서 애플 쉴드치는거지 뭔소립니까
25/02/27 14:52
기본 호출 AI 시스템은 빅스비에서 제미나이로 바뀌었습니다;
내부 온 디바이스 처리 할 때는 당연히 자체 AI를 쓰겠지만, 기본적으로 제미나이가 사용자의 인터페이스로 되어 있어요. 애플은 시리가 인터페이스구요; 그래서 제미나이에게 시스템 관련 프롬프트를 주면 빅스비(가우스)를 통해서 처리합니다.
25/02/27 15:10
(수정됨) 몇번이나 적지만 빅스비가 제미나이로 대체된건 맞는데, 운용 방식이 달라진건 아닙니다. 완성도 차이에요. 온 디바이스 모델은 제미나이 나노 모델을 쓰고, 클라우드 Ai는 가우스를 썼습니다. (썼습니다라고 적는건 위에 가우스 투자 축소 지시 댓글 보고 좀 더 찾아보니 클라우드 Ai를 다른걸로 대체한다는 루머들을 봤거든요)
정리하면 애플과 같이 온 디바이스 모델 전면에 내세우고,(삼성은 제미나이 나노, 애플은 시리) 뒤에서 클라우드 Ai가 지원해주며 (삼성은 가우스, 애플은 AI), 이걸로 해결 못하는 기기 외적인 질문들은 외부 Ai를 빌리는(챗GPT나 제미나이) 운용 방식은 같다는겁니다. 여기서 완성도의 차이는 온디바이스 모델이 삼성은 구글 지원을 받아 제미나이 나노라는 모델을 쓰고 있는거고 애플은 자사 Ai를 개발하며 해딩하고 있는 차이죠.
25/02/27 15:25
(수정됨) 시리는 갤럭시의 제미나이 같이 LLM 경량화 AI가 아니라 그냥 구세대 반응형 AI-빅스비 수준-같은 데요?
LLM을 인터페이스로 쓰는 갤럭시와 그 이전 수준의 시리를 인터페이스로 쓰는 애플 거기에 온디바이스에서 외부 AI로 연결하는 부분의 브릿징 부분도 그냥 챗gpt에 던지는 시리와 온 디바이스인지 외부 인지 구별이 가지 않는 제미나이랑 방식이 같다는 건 좀;; 이 정도면 그냥 다른 방식이죠. 시리에 해당하는 빅스비를 아예 감춰버렸는데요.
25/02/27 15:30
네야 님// 완성도를 지적하는건 이해합니다. 근데 처음 쓴신것처럼 갤럭시와 아이폰의 Ai 운용 방식이 다른것도 아니고, [애플의 ai에 대한 접근 방식이 갤럭시에 미치지 못한다는 이야기]는 더더욱 아닌거죠. 구글이 Ai 선도자인거 맞고, 애플이 후발주자인건 맞는데, 접근 방식은 같지만 애플은 자사 기술로 해결 보려는 거고, 삼성은 이제 자사가 운용하는 가우스도 버린다고 하네요.
25/02/27 15:31
(수정됨) 네야 님// 외부로 보이는게 다르다고 운용이 다른건 아니죠. 그리고 애플도 LLM의 경량 버전을 쓰는건 맞아요. 이름이 시리인것 뿐이죠.
25/02/27 15:35
(수정됨) 하루빨리 님// 시리는 아직 LLM 아닙니다.
https://www.aitimes.com/news/articleView.html?idxno=165581 LLM과 디바이스 에이전트는 잘 어울리지 않아요. 갤럭시는 디바이스 컨트롤에 대해서 빅스비를 쓰도록 우회했지만요. 그래서 기존 빅스비 사용시에 빠르던 디바이스 컨트롤 관련 동작이 느려지는 약간의 찐빠가 생기긴 했지만, 반대로 기존 빅스비와 제미나이의 활용도가 차원이 다릅니다. 근데 시리랑 대화 한번이라도 해보면 얘가 LLM이라고 생각할 수가 없는데;;;;
25/02/27 14:30
갤럭시는 23시절부터 준비한 정황이 보이는데
애플은 애플카 사망처리하고 ai인원 그쪽으로 돌린게 24년 4월입니다 https://gigglehd.com/gg/lifetech/15794588 그전에도 시리가 빅스비보다 멍청하다는게 중론에 가까웠으니..
25/02/27 14:04
애플은 일단 외부ui노출 안되는건 기기자체처리를 고집하고 있습니다
소비자 이득은 거의없지만 애플이 사용료를 지불하지 않는다는 장점이 생기죠
+ 25/02/27 16:44
갤럭시랑 애플 둘다 간단한 처리는 온디바이스 AI를 쓰고 복잡한건 제미나이나 GPT 쓰는데 본문은 애플 자체 온디바이스 AI 수준을 보여주는거라고 보시면 됩니다. 앱이나 뉴스 요약에는 GPT 안쓴다고 해요.
25/02/27 15:00
https://namu.wiki/w/%E8%9B%8B
蛋은 '새알 단'이라는 한자로, '새알'을 뜻한다. [중국에서는 蛋을 욕설로도 사용하는데, 한국어의 '새끼'와 같은 뜻으로 사용한다.] ...!?
25/02/27 15:31
요즘 온디바이스 ai 칩셋에는 4B 정도의 LLM 모델이 탑재될 수 있는건가요? 어느정도 수준이 동작할 수 있는지 궁금하더라구요. 최근 요가 타블랫도 온디바이스 라마 AI 탑재 광고하는데 도대체 어느정도 수준의 모델이 탑재되는지는 안나와서.
+ 25/02/27 15:46
보통 10B 이하라고 생각하면 될것 같습니다. 정확히 공개된적은 없는거 같은데,
AI탑재안되는 기기들의 램용량을 보고 유추하면 그정도라고 생각해요.
|
||||||||||||||||
