홍박스의 개발 생활

7강 · AI 심사자가 만드는 하이브마인드

AI 논문 심사 시스템, 정말 믿을 수 있을까? AI 심사위원들은 사람보다 훨씬 더 비슷한 평가를 내리고, 논문을 살짝만 고쳐도(세탁) 점수가 올라가는 조작 가능성이 커서, 지금 당장 학술 논문 심사에 쓰면 안 된다는 연구 결과가 나왔어.1. AI 논문 심사, 왜 필요할까?논문 심사는 연구자들이 쓴 논문이 좋은지 나쁜지 평가하는 과정이야. 그런데 이 심사 과정이 점점 힘들어지고 있어.논문이 너무 많아졌어: 새로운 논문이 쏟아져 나오는데, 이걸 다 읽고 평가할 전문가(심사위원)는 부족한 상황이야. 사람 심사는 들쑥날쑥해: 같은 논문이라도 누가 심사하느냐에 따라 평가가 달라질 때가 많아. 마치 같은 그림을 보고도 어떤 사람은 "최고!"라고 하고, 어떤 사람은 "별로인데?"라고 하는 것처럼 말이야.그래서 AI..

5강 · 짝 없는 임베딩도 번역된다

짝 없는 임베딩도 번역된다: vec2vec 논문 쉽게 읽기한 줄 요약전혀 모르는 모델이 만든 임베딩 벡터를, 짝지어진 예시 하나 없이 내가 아는 모델의 공간으로 "번역"할 수 있다. 그리고 그것만으로 벡터 뒤에 숨어 있던 문서 내용을 일부 읽어낼 수 있다.항목내용논문Harnessing the Universal Geometry of Embeddings (vec2vec)저자Jha, Zhang, Shmatikov, Morris학회NeurIPS 2025arXiv2505.125401. 시작하기 전에: 모델마다 쓰는 "언어"가 다르다얼굴 편집 기능 하나를 만든다고 해 볼게요. 겉보기엔 기능 하나지만, 속을 들여다보면 모델 여러 개가 줄줄이 연결되어 있어요.사진 → 얼굴 검출기 → 얼굴 인식기 → 표정 모델 → 얼굴..

4강 · 좌표를 바꾸면 모델을 이어 붙일 수 있다.

좌표를 바꾸면 AI 모델을 이어 붙일 수 있다 — 상대 표현을 쉽게 이해하기 AI 모델 두 개를 각각 학습시킨 뒤, 한 모델의 앞부분과 다른 모델의 뒷부분을 연결하면 잘 작동할까요?생각보다 쉽지 않습니다. 두 모델이 비슷한 내용을 배웠더라도, 그 내용을 표현하는 숫자의 기준이 다를 수 있기 때문입니다.이번 글에서는 「4강 · 좌표를 바꾸면 모델을 이어 붙일 수 있다」에서 소개하는 상대 표현(Relative Representations)을 쉽게 정리해 보겠습니다. 핵심은 한 문장입니다.데이터를 ‘어디에 있는가’로 표현하는 대신, ‘공통 기준들과 얼마나 비슷한가’로 표현하자.먼저, 30초 핵심 요약AI는 이미지나 문장을 숫자 묶음인 벡터로 바꿉니다.따로 학습한 모델은 같은 데이터에도 서로 다른 좌표를 부여할..

3강 · 모델들은 같은 세계를 향해 수렴한다

​AI 모델들이 결국 같은 방식으로 세상을 이해하게 될까? 플라톤적 표상 가설에 따르면, 다양한 AI 모델들이 점점 더 세상에 대한 동일한 내부 표상(세상을 이해하는 방식)을 갖게 될 거야. 이는 AI가 실제 세상의 통계적 모델에 수렴하며, 마치 동굴 속 그림자가 실제 사물을 반영하듯 데이터 뒤의 실재(reality)를 회복하는 과정이라고 볼 수 있어.1. AI 모델들이 세상을 이해하는 방식이 같아질까? (플라톤적 표상 가설)이 논문은 여러 AI 모델들이 결국 세상을 비슷한 방식으로 이해하게 될 거라는 주장이야. 마치 동굴 속 그림자를 보고 실제 사물을 유추하듯이, AI도 데이터 뒤에 숨겨진 진짜 세상의 모습을 찾아간다는 거지. 이걸 플라톤적 표상 가설이라고 불러. 2. AI 모델들이 세상을 이해하는 방..

2강 · 프롬프트로 다양성을 되살리는 법

AI가 매번 똑같은 답변을 하는 모드 붕괴(Mode Collapse) 현상을 해결하는 방법은? 학습 데이터에서 사람들이 익숙한 답변을 선호하는 경향 때문에 발생하며, 여러 답변과 그 확률을 함께 요청하는 간단한 프롬프트로 다양성을 1.6~2.1배 높일 수 있습니다.1. AI 모델의 '모드 붕괴' 현상과 해결책AI 모델이 매번 똑같은 답변을 하는 모드 붕괴(Mode Collapse) 현상은 학습 데이터에서 사람들이 익숙한 답변을 선호하는 경향 때문에 발생하며, 여러 답변과 그 확률을 함께 요청하는 간단한 프롬프트로 다양성을 1.6~2.1배 높일 수 있다.1.1. 모드 붕괴의 원인: 사람들의 선호도 편향모드 붕괴 현상은 AI 모델이 정렬(alignment) 학습 후 특정 답변에만 확률이 집중되어 다양한 답변..

1강 · 서로 다른 AI가 같은 답을 내놓는다

AI 모델들이 내놓는 답변이 놀랍도록 비슷하다는 '인공 벌집 정신(Artificial Hive Mind)' 현상이란? 여러 AI 모델들이 서로 다른 질문에도 비슷한 답변을 내놓는 현상을 말해. 이는 AI 학습 데이터의 유사성 때문인데, 결국 AI의 다양성이 줄어들고 인간의 다양한 취향을 반영하기 어려워진다는 의미야.1. AI 모델들이 서로 비슷한 답변을 내놓는 '인공 벌집 정신' 현상이야여러 AI 모델들이 서로 다른 질문에도 놀랍도록 비슷한 답변을 내놓는 현상을 인공 벌집 정신(Artificial Hive Mind)이라고 불러 마치 벌들이 한마음 한뜻으로 움직이는 것처럼, AI들도 비슷한 생각을 하는 것처럼 보인다는 뜻이야.이 현상은 2025년 뉴립스(NeurIPS) 학회에서 최고 논문상을 받은 "인공 ..

사내 IT 업무를 진행하다 보면 사용자로부터 들어오는 문의를 빠르게 확인해야 하는 경우가 많습니다.기존에는 Form에 문의가 등록되었는지 직접 확인해야 했기 때문에 새로운 문의를 바로 확인하기 어려웠습니다.이를 개선하기 위해 사용자가 Form을 제출하면 Power Automate가 이를 감지하고 Microsoft Teams 채널에 자동으로 알림을 보내는 흐름을 구성했습니다.1. 구현 목표이번 자동화의 목표는 간단했습니다.사용자 Form 제출 → Power Automate 실행 → Teams 신규 문의 알림사용자는 기존처럼 Form을 통해 문의를 등록하고, IT 담당자는 별도로 Form을 확인하지 않아도 Teams에서 새로운 문의가 등록되었다는 사실을 바로 확인할 수 있도록 만드는 것이 목적이었습니다.전체..

SAP BTP란SAP BTP는 Business Technology Platform의 약자다.쉽게 말하면 SAP의 클라우드 확장 플랫폼이다. Global Account는 가장 큰 계정 단위다.Subaccount는 프로젝트나 지역/환경 단위로 나누는 계정 공간이다.Entitlement는 어떤 서비스를 사용할 수 있는 권한/할당량이다.Cloud Foundry Org/Space는 앱을 배포하는 실행 공간이다.구조 :Global Account→ Subaccount→ Entitlement 설정→ Cloud Foundry Space→ 앱 배포 RAP란RAP는 RESTful Application Programming Model의 약자다.ABAP 환경에서 현대적인 OData 서비스와 Fiori 앱을 end-to-end로..

Fiori란SAP Fiori는 SAP의 표준 사용자 경험, 즉 UX 디자인 원칙과 앱 스타일이다.예전 SAP GUI가 복잡하고 기능 중심이었다면, Fiori는 역할 기반, 단순한 화면, 일관된 UX를 목표로 한다. SAPUI5란SAPUI5는 SAP에서 만든 JavaScript UI 프레임워크다.Fiori 앱을 만들 때 많이 사용한다. XML ViewXML View는 SAPUI5 화면을 XML 형식으로 정의하는 방식이다.여기에는 화면 구조와 컨트롤이 들어간다. ControllerController는 JavaScript 파일이다.화면에서 발생하는 이벤트를 처리한다. Data BindingData Binding은 Model 데이터를 View에 연결하는 것이다.예를 들어 주문 상태가 APPROVED이면 화면에 ..

CDS View란CDS는 Core Data Services의 약자다.쉽게 말하면 SAP 데이터베이스 위에 만드는 의미 있는 데이터 모델이다.예전 방식은 ABAP Report 안에서 직접 SELECT를 많이 했다.현대 SAP, 특히 S/4HANA에서는 데이터를 그냥 테이블 그대로 꺼내기보다, CDS View로 업무 의미를 가진 조회 모델을 만든다.예를 들면 DB에는 고객 테이블, 주문 헤더 테이블, 주문 아이템 테이블, 자재 테이블이 따로 있다.그런데 화면에서는 “주문 목록”이 필요하다.이때 여러 테이블을 조합해서 “주문 목록용 데이터 모델”을 만드는 것이 CDS View의 역할이다. Annotation이란Annotation은 CDS View에 붙이는 메타데이터다.데이터 자체가 아니라 “이 데이터가 어떻게..