Mrbaeksang
— 접속·오늘 —명

№ 086 · · 매일 08:00 KST

메뉴

№ 086 · 2026-07-16

№ 086

오늘은 좀 찝찝한 소식이 하나 떴어요. 누군가가 AI 챗봇 클로드를 속여서 '당신의 가장 깊은 비밀'이라는 걸 빼내는 데 성공했다고 해요. 해커뉴스에서 596점을 받으면서 엄청난 화제가 됐는데, 이게 우리한테 'AI랑 아무 말이나 해도 괜찮을까?'라는 질문을 던져주네요.

  • 오늘의 한 줄

    누군가 클로드를 속여서 '당신의 가장 깊은 비밀'을 빼냈다 — HN 596점 폭발

    한 보안 연구원이 AI 챗봇 클로드를 속여서, 다른 사용자가 나눈 대화 내용을 유출시키는 데 성공했대요. '메모리 하이스트'라는 제목의 이 글은 HN에서 596점을 받으며 큰 화제가 됐어요. AI 챗봇이 사용자의 민감한 정보를 얼마나 안전하게 보관하는지에 대한 근본적인 의문을 던집니다.

    • 보안 연구원 아유쉬 디지털이 클로드(앤트로픽의 AI)를 상대로 '프롬프트 인젝션' 공격을 시도했어요. AI에게 특정 명령을 속여 넣는 방식이에요.
    • 그 결과, 클로드가 다른 사용자와 나눈 대화 내용 — 개인 비밀, 재정 정보 등 — 을 보여주도록 조작하는 데 성공했대요.
    • 이 공격은 AI가 대화 맥락을 기억하는 '메모리' 기능을 악용한 거예요. AI가 '이전 대화를 참고하라'는 지시를 충실히 따르는 성질을 이용한 셈이죠.
    • 일반인이 가장 궁금해할 점: '내가 AI와 나눈 대화도 다른 사람에게 노출될 수 있나?' — 이번 실험은 그 가능성을 현실로 보여줬어요.
    • 앤트로픽은 아직 공식 입장을 내놓지 않았지만, AI 보안 업계가 크게 술렁이고 있어요. 앞으로 AI 챗봇의 '메모리' 기능에 대한 규제나 개선이 나올 가능성이 높아요.
    얻는 것

    AI 챗봇 사용 시 주의해야 할 점을 알게 돼요. '프롬프트 인젝션'이라는 보안 위협이 실제로 어떻게 작동하는지, 그리고 내 정보를 지키기 위해 어떤 습관이 필요한지 이해할 수 있어요.

    지금 할 일

    $지금 당장: AI 챗봇(클로드, GPT 등)과 대화할 때 주민등록번호, 계좌번호, 비밀번호 등 절대 알려주면 안 되는 정보를 입력하지 않도록 습관을 들이세요. 설정에서 '대화 기록 저장' 기능을 끄거나 주기적으로 삭제하는 것도 방법이에요.

    왜 지금 — AI 챗봇을 일상에서 쓰는 사람이 늘면서, '내 대화가 안전한가'는 가장 중요한 질문이 됐어요. 이번 사례는 그 질문에 '아직은 완전히 안전하지 않다'는 답을 내놓은 셈이에요. 일반인도 'AI와 나누는 대화에 너무 민감한 정보를 적지 말아야겠다'는 경각심을 가질 필요가 있어요.

    Hacker News9/10스토리

사람들 반응

사람들이 화제 삼는 이야기

05

  • 9750억 파라미터짜리 거대 AI '잉클링'이 오픈소스로 풀렸다 — HN 520점

    AI 연구소 '씽킹 머신즈'가 9750억 파라미터(975B)짜리 거대 언어모델 '잉클링'을 오픈소스로 공개했어요. HN에서 520점을 받으며 '드디어 오픈소스에서도 이 정도 규모가 나왔다'는 반응이 나오고 있어요. 다만 일반인이 직접 쓰기엔 무거워서, 주로 개발자와 연구자들의 관심을 끌고 있어요.

    • 씽킹 머신즈라는 AI 연구소가 '잉클링'이라는 이름의 거대 AI 모델을 공개했어요. 파라미터 수가 9750억 개로, 공개된 모델 중에선 가장 큰 축에 들어요.
    • 오픈소스로 풀렸다는 게 핵심이에요. 누구나 모델 파일을 내려받아 연구하거나, 자체 서버에 돌려볼 수 있어요. 다만 일반 가정용 PC로는 절대 못 돌리고, 엄청난 컴퓨터 자원이 필요해요.
    • HN 반응은 '드디어 오픈소스 진영에서도 GPT-5.6급 규모에 도전한다'는 기대와 '그래도 일반인이 쓸 수 있는 건 아니다'는 현실적인 평가가 섞여 있어요.
    • 씽킹 머신즈는 이 모델을 '연구 목적'으로 공개했다고 밝혔어요. 상업적 이용은 별도 라이선스가 필요할 수 있어요.
    • 일반인이 바로 써보긴 어렵지만, 'AI가 점점 더 커지고 공개된다'는 큰 흐름을 보여주는 사건이에요. 앞으로 더 작고 효율적인 버전이 나오면 일반인도 쓸 날이 올지도 몰라요.
    얻는 것

    AI 업계의 최신 트렌드 — '오픈소스 모델도 점점 커진다'는 흐름을 알게 돼요. 나중에 더 가벼운 버전이 나오면 써볼 기회가 생길 수도 있어요.

    지금 할 일

    $직접 써보긴 어렵지만, '잉클링'이 어떤 모델인지 궁금하다면 씽킹 머신즈 공식 블로그(thinkingmachines.ai)에서 자세한 설명을 읽어보세요. AI 기술의 발전 속도를 체감할 수 있어요.

    왜 지금 — 오픈소스 AI 생태계가 점점 거대해지고 있어요. '잉클링'은 그 상징적인 사례예요. 일반인이 직접 쓰긴 어렵지만, 'AI가 어떻게 발전하고 있는지' 큰 그림을 보여주는 뉴스로 의미가 있어요.

    Hacker News7/10스토리

  • 구글 딥마인드를 떠난 한 연구원의 고백 — '내부에서 본 AI의 민낯' HN 280점

    구글 딥마인드에서 일하던 한 연구원이 회사를 그만둔 이유를 솔직하게 털어놓은 글이 HN에서 280점을 받으며 화제예요. 'AI 안전성'을 연구하던 그가 본 내부 현실은, 바깥에서 생각하는 것과 많이 달랐다고 해요. 일반인에게는 'AI 회사 안에서 무슨 일이 일어나는지' 엿볼 수 있는 흥미로운 이야기예요.

    • 터트라우트(Turntrout)라는 필명의 연구원이 '내가 구글 딥마인드를 떠난 이유'라는 제목의 글을 올렸어요. 그는 AI 안전성 연구팀에서 일했대요.
    • 그가 말하는 핵심 문제: '회사 내부에서 AI 안전성은 진짜 우선순위가 아니었다'고 해요. 겉으로는 안전을 강조하지만, 실제로는 '더 빠르고 강력한 AI'를 만드는 데 모든 자원이 쏠렸다는 거예요.
    • 또 '연구 자유도가 생각보다 낮았다'고 지적해요. 상업적으로 유용한 연구만 살아남고, 장기적 위험을 연구하는 프로젝트는 뒷전으로 밀렸대요.
    • HN 반응은 '역시 대기업 AI 연구소의 현실'이라는 공감과 '그래도 딥마인드는 다른 회사보다 낫지 않나'는 반론이 섞여 있어요.
    • 일반인이 알면 재미있는 점: 'AI 회사들도 내부적으로는 치열한 줄다리기를 하고 있구나' 하는 걸 알 수 있어요. AI가 '착하게' 만들어지는 게 얼마나 어려운 일인지 느껴져요.
    얻는 것

    AI 업계의 '뒷이야기'를 엿볼 수 있어요. 뉴스에서 보는 화려한 발표 뒤에 숨겨진 현실을 알게 되면, AI 관련 뉴스를 볼 때 더 깊이 이해할 수 있어요.

    지금 할 일

    $원문이 궁금하다면 turntrout.com에서 'Why I Left Google DeepMind'를 검색해보세요. 영어지만, 번역기를 켜고 읽어도 재미있어요. AI 회사의 내부 이야기를 생생하게 느낄 수 있어요.

    왜 지금 — AI 회사의 내부 고발은 드물어요. 이 글은 'AI 안전성'이라는 말이 실제 현장에서 어떻게 받아들여지는지 생생하게 보여줘요. 일반인도 'AI가 정말 안전하게 만들어지고 있을까?'라는 질문을 던져볼 필요가 있어요.

    Hacker News7/10스토리

  • AI 음성 사기, 3초면 충분하다 — '방어가 따라잡지 못한다'는 경고 HN 161점

    AI가 사람 목소리를 3초만 들어도 완벽히 복제해서 사기에 악용할 수 있다는 경고 글이 HN에서 161점을 받았어요. 'AI 음성 사기는 이미 방어 체계를 앞질렀다'는 주장이에요. 일반인이 가장 조심해야 할 AI 위협 중 하나를 다루고 있어요.

    • 영국 보안 전문가가 쓴 이 글은 'AI 음성 사기가 왜 기존 사기보다 위험한지'를 설명해요. 핵심은 '3초만 있으면 된다'는 거예요. SNS에 올린 짧은 영상이나 음성 메시지만으로도 충분히 목소리를 복제할 수 있대요.
    • 실제 사례: 누군가 가족의 목소리를 복제해서 '나야, 급하게 돈이 필요해'라고 전화를 걸어 돈을 뜯어내는 식이에요. 피해자는 목소리가 진짜 같아서 의심하지 못해요.
    • 현재 방어 기술(음성 분석, 생체 인증 등)은 AI가 만든 가짜 목소리를 점점 더 구별하기 어려워지고 있어요. 'AI vs 방어'의 싸움에서 AI가 앞서고 있다는 게 전문가들의 분석이에요.
    • HN 댓글에서는 '은행이나 관공서는 전화 인증을 없애야 한다', '가족끼리 비상시에 쓸 비밀번호를 정해두자' 같은 실용적인 조언이 오가고 있어요.
    • 일반인이 가장 조심해야 할 점: '목소리만으로 사람을 믿지 마세요'. 특히 돈이 관련된 전화라면, 반드시 다른 경로(문자, 다른 가족에게 확인)로 재확인하는 습관이 필요해요.
    얻는 것

    AI 음성 사기의 위험성과 구체적인 예방법을 알게 돼요. '3초만 있어도 복제된다'는 사실을 알면, SNS에 목소리가 담긴 영상을 올릴 때 더 조심하게 될 거예요.

    지금 할 일

    $지금 당장: 가족이나 친구와 '비상시 확인용 비밀번호'를 정해두세요. AI 음성 사기 전화가 왔을 때 '비밀번호가 뭐야?'라고 물어보면 가짜를 쉽게 걸러낼 수 있어요.

    왜 지금 — AI 음성 사기는 이미 현실이에요. 기술적으로 어렵지 않고, 누구나 당할 수 있어요. 이 글은 'AI가 우리 생활에 얼마나 깊이 들어왔는지'를 가장 무서운 방식으로 보여주는 사례예요.

    Hacker News7/10스토리

  • 오픈AI, EU 법원에서 상표권 분쟁 패소 — '오픈'이라는 이름을 못 쓸 수도 있다고? HN 204점

    오픈AI가 유럽 법원에서 상표권 분쟁에서 패소했어요. '오픈AI'라는 이름이 '공개적이다(open)'라는 의미와 충돌한다는 주장이 받아들여진 거예요. HN에서 204점을 받으며 '이름값을 못 하는 회사'라는 조롱 섞인 반응이 나오고 있어요.

    • EU 법원이 오픈AI의 '오픈(Open)' 상표 등록을 거부한 원심을 유지했어요. 법원은 '오픈'이라는 단어가 너무 일반적이고, AI 업계에서 '공개된'이라는 뜻으로 널리 쓰이기 때문에 특정 회사의 독점 상표가 될 수 없다고 판단했어요.
    • 오픈AI는 '오픈AI'라는 이름을 상표로 등록하려 했지만, 법원은 '이 이름은 AI 기술의 공개성(openness)을 설명하는 일반 명사에 가깝다'고 봤어요.
    • HN 반응은 '이름부터가 거짓말이었네'라는 비꼼이 많아요. 오픈AI가 실제로는 점점 더 폐쇄적으로 변하고 있다는 비판과 연결지어 해석하는 거예요.
    • 법원 판결이 오픈AI의 서비스 이름 자체를 금지한 건 아니에요. 다만 '오픈AI'라는 이름을 법적으로 보호받는 상표로 등록하지 못하게 된 거예요. 즉, 다른 회사도 '오픈AI' 비슷한 이름을 써도 법적으로 문제가 없게 됐어요.
    • 일반인이 알면 재미있는 점: '회사 이름도 법정 다툼의 대상이 되는구나' 하는 걸 알 수 있어요. 오픈AI의 '오픈'이라는 이름이 아이러니하게 느껴진다면, 당신만 그런 게 아니에요.
    얻는 것

    AI 업계의 재미있는 뒷이야기를 알게 돼요. '오픈AI'라는 이름이 왜 논란이 되는지, 그리고 법원이 어떤 기준으로 상표를 판단하는지 이해할 수 있어요.

    지금 할 일

    $오픈AI의 '오픈' 정책이 궁금하다면, 오픈AI 공식 블로그에서 'open' 관련 글을 찾아보세요. 이름과 실제가 얼마나 일치하는지 스스로 판단해보는 것도 재미있어요.

    왜 지금 — 오픈AI는 세계에서 가장 유명한 AI 회사예요. 그 회사의 이름 자체가 법적으로 도전받는 건 상징적인 사건이에요. '오픈AI는 정말 오픈한가?'라는 오래된 논쟁에 다시 불을 붙였어요.

    Hacker News6/10스토리

짧게 더

새로 나왔어요

써볼 새 AI 서비스·기능·앱

05

짧게 더

이거 써보세요

바로 써먹을 도구·서비스

05

짧게 더

  • openinterpreter/openinterpreterGitHub 트렌딩
    설명

    저비용 모델에 최적화된 코딩 에이전트 Open Interpreter로, Rust로 작성되었으며 ACP 코딩 기능을 제공한다.

  • HKUDS/DeepTutorGitHub 트렌딩
    설명

    평생 개인 맞춤형 튜터링 시스템 DeepTutor로, CLI와 생태계를 갖춘 오픈소스 프로젝트이다.

  • HenryNdubuaku/maths-cs-ai-compendiumGitHub 트렌딩
    설명

    수학, 컴퓨터 과학, AI를 아우르는 비전통적인 오픈 교과서로, 직관 중심의 학습 자료를 제공한다.

  • AIEraDev/ClypraGitHub 트렌딩
    설명

    Tauri, React, TypeScript로 구축된 현대적 비디오 편집기로, CapCut의 프리미엄 기능을 무료로 제공하는 데 초점을 맞췄다.

  • YimMenu/YimMenuV2GitHub 트렌딩
    설명

    GTA 5: Enhanced용 실험적 메뉴로, C++로 작성되었으며 FSL과 인젝터를 통해 사용할 수 있다.

신기한 AI

재밌고 놀라운 AI 활용

05

짧게 더

오늘 소식들 보면 AI가 점점 더 우리 생활 깊숙이 들어오고 있다는 게 느껴져요. 내일은 또 어떤 일이 벌어질지 궁금하네요. 특히 음성 사기 같은 건 진짜 조심해야 할 것 같아요.

단톡방에 공유

카카오톡 공유 버튼 한 번 누르면 단톡방 여러 개에 카드 형태로 한 번에 보낼 수 있어요. 텍스트 붙여넣기로 보내고 싶으면 펼치기 눌러서 전체 텍스트 복사.

← № 085 · 2026-07-15
아카이브
№ 087 · 2026-07-17 →