배포된 AI 어댑터는 어떻게 털리고, TrustZone으로 어떻게 막는가 엣지 기기에 올라가는 AI 모델의 "진짜 IP"는 대개 몇 MB짜리 작은 어댑터 파일 하나에 담긴다. 이걸 그냥 두면 파일 복사로 털리고, 암호화해도 실행하는 순간 메모리에서 원본이 통째로 나온다. 이 글은 그 위협을 실제로 재현하고(공격), ARM TrustZone(OP-TEE)으로 막은 뒤(방어), 같은 방식으로 다시 털어서 정말 막혔는지 확인한(재공격) 기록이다. 요즘 AI 모델은 "커다란 공개 모델(베이스)" 위에 "우리 회사 데이터로 살짝 학습시킨 작은 부품(어댑터)"을 얹는 방식으로 많이 만든다. 베이스는 누구나 받을 수 있는 공개품이라 비밀이 아니고, 회사의 노하우와 데이터가 녹아 있는 진짜 자산은 이 작은 어댑터 쪽이..

개인정보보호 포럼 같은 곳에서 민간 기업들이 정부에 바라는 점에 대해 얘기할 때 정보보안을 달성하기 위한 지원이 항상 1순위로 나온다. 인터넷진흥원 등을 통해 컨설팅 등을 받을 수 있지만 정보보안 조직도 미비한 중소기업 입장에선 컨설팅 자체가 큰 부담이다. 기능 구현에 급급한 스타트업에서 초기부터 보안 솔루션을 도입하고 운영하는 건 과할 수 있다. IT업체나 서비스 업체가 아닌 경우, 대량의 개인정보를 다루지 않는 경우 등은 더욱 소홀히 다뤄진다. 현행화하지만 대부분의 조직과 그 구성원들은 조직이 커지길 원한다. 그냥 안주하고 편하게만 일하고자 하는 집단이 아닌 경우 조직은 커지게 되어있다. IT서비스 제공자가 아니더라도, 개인정보가 없더라도 조직이 커지고 직원이 많아지면 업무 시스템이란 게 갖..

현실공공기관에서 정보보안, 개인정보보호 관련 업무를 할 때 개인정보보호법 등으로 직원의 법정의무교육을 듣도록 해야하는 업무도 포함되어있었다.대기업을 다닐때도 그랬고 공공기관도 온라인 교육은 편하게 들을 수 있게 되어있다고 생각한다. 많은경우 한번 실행해놓으면 자동으로 챕터가 넘어가고 끝까지 켜놓기만 해도 수료가 된다. 옛날엔 문제풀이도 하고 몇개이상 못맞으면 다시 풀고 그랬던거같은데 최근엔 그런것도 없고 문제마저도 그냥 영상처럼 넘어간다. 하지만 한달전부터 공문을 보내고 공지를 해도 그 시간 내내 수료하지 않는 직원이 적지않다. 정부가 개인정보/정보보안 관련해서 관심을 갖고 이거저거 매번 바꾸긴 해도 실속이 없다고 느끼게 되는 이유이기도 하다.AI를 잘 쓰겠다고 hwp를 hwpx로 바꾸고 그걸 기관에서도..

보안에서 중요한 것 중 하나는 어디까지 믿을 것인가? 이다.엔터프라이즈 보안에선 Zero Trust라는 말이 있다. 아무것도 믿지 않는다는 뜻이다. 그러니 무언가 행동을 할 때마다 확인을 한다. 내부망에 들어왔으면 '허가 받았겠지' 가 아니라 진짜 허가를 받았는지 또 확인한다. Defense in Depth라는 측면과도 일치한다. 보안 대책을 하나 했으니 끝이아니라 두겹 세겹 대책을 쌓겠다는 말이다. 스마트폰에는 키 프로비져닝 이란 공정상의 과정이 있다. 제조 과정에서 키를 TEE, SE 등 안전한 영역에 주입하여 이후 key attestation 등에 사용하여 스마트폰의 유효성을 증명하는데 쓰인다. 일종의 RoT 역할을 하게 된다. 일반적으로 공정상의 주입이기 때문에 공정 보안이 요구된다. 또한 TEE..

보안을 적용한 가장 기초적인 소프트웨어 기능이라하면 암호화를 먼저 얘기할 수 있을 것 같다. 학생일 때 알게된, 보안에 전혀 관심이 없던 다른 학교 형이 내가 보안에 관심이 있다는걸 안 후 본인 프로젝트에 암호화를 적용해서 '보안을 고려했다' 라는 추가 항목으로 평가에서 좋은 점수를 받게 되었다고 말해준적이 있다. 무작정 보안 공부를 하겠다고 하고 혼자 사투를 벌이면서 개발을 할땐 암호화란 xor다 라는 말에 데이터에 xor 연산을 하고 암호화를 했다 라고 생각한 적도 있었다. AES니, RSA니 암호 알고리즘을 알기도 전이었다. 실제 제품의 보안 기능들을 담당하며 취약점 찾기, 설계, 구현, 테스트, 상용화 후 유지보수, 개선 등을 하게된 후 지금보면 암호화는 정말 작은 축이면서도 거의 빠지지 않는 부..

제 동생은 하고 싶은 말이 있어도 그 말이 또렷하게 나오지 않습니다.발달장애로 발음이 분명하지 않아서, 정작 하고 싶은 말은 다 있는데 밖으로 나올 때만 흐릿해집니다. 옆에서 오래 들은 저는 알아듣지만, 처음 보는 사람과는 그게 어렵습니다."말만 제대로 통해도 훨씬 수월할 텐데." 동생을 보며 늘 하던 생각이었고, 그래서 만들었습니다.잘 전달되지 않는 말을 듣고, 그 안에 담긴 뜻을 파악해 또렷한 문장으로 대신 전해주는 앱입니다. 지금도 더 잘 알아듣도록 계속 다듬어 가고 있습니다. 피드백 많이주세요. https://sjlab.store/ 모바일 웹 브라우저(크롬 등)에서 열어주세요. 스피커와 마이크 기능을 사용합니다. 사용 방법'말하기'를 눌러 이야기합니다.다 말하고 '정지'를 누르면, 앱이 "..