GPT는 생각하는 게 아니라, 줄 서는 중이다 – CPU Scheduling 관점에서 본 GPT 응답 구조

CPU 스케줄링을 학습하던 중, 대규모 언어 모델에도 유사한 자원 분배 로직이 적용될 수 있음을 직관적으로 느꼈습니다. ChatGPT 응답 지연 현상을 단순한 연산 지연이 아닌, 시스템 레벨의 스케줄링 이슈로 해석할 수 있는지 살펴보고자 했습니다. GPT의 내부 구조는 공개되어 있지 않지만, 운영체제의 스케줄링 이론과 공개된 AI 서빙 인프라 사례를 바탕으로 추론 가능한 수준의 구조적 유사성을 정리했습니다. 입력했는데, 왜 아무 반응이 없을까ChatGPT를 쓰다 보면 가끔 응답이 늦을 때가 있다. 입력은 했는데, 아무 반응 없이 멈춰 있는 것처럼 보이는 순간. 모델이 복잡한 답변을 구성하느라 시간이 걸리는 걸까? 실제로는 그렇지 않다.이런 지연은 대부분 서버 측의 처리 대기 때문이며, 리소스를 어떻게 분..

• format_list_bulleted Computer Science
• · 2025. 5. 17.
• textsms

그낭 돌아가는 줄 알았지? - 가상 메모리와 페이징

들어가며 - 단순한 웹앱 뒤에 숨어 있던 복잡한 구조이번 주 CS 스터디 주제는 ‘가상 메모리와 페이징’이었다. 교과서처럼 정리된 개념도 중요하지만, 나는 실전에서 어떻게 쓰이는지가 궁금했다. 그러다 문득 이런 의문이 들었다.내 웹앱은 그냥 버튼을 눌러 GPT API를 호출하고 결과를 보여줄 뿐인데… 이 간단한 작업에도 운영체제는 뭔가 거대한 걸 하고 있지 않을까? 그래서 이번 글에선 내가 직접 만든 사주 웹앱을 출발점으로 삼아, 운영체제 안에서 실제로 어떤 일이 벌어지는지—특히 가상 메모리와 페이징 구조가 어떻게 작동하는지를 하나씩 살펴본다. 버튼 한 번 눌렀는데, 메모리가 열린다고요? 웹앱 사용자 입장에선 “버튼 누르기 → 결과 확인”이 전부지만, 서버 입장에선 그 순간 하나의 요청을 처리하는 작은..

• format_list_bulleted Computer Science
• · 2025. 5. 8.
• textsms

왜 시스템 콜은 이렇게까지 번거로운가

이 글은 컴퓨터 과학(CS)을 공부하면서 생긴 질문을 정리하고, 스스로 답을 찾아가는 과정을 담았습니다. 읽기 쉽게 풀어 썼으니, 비전공자나 개발자가 아니어도 편하게 읽어주시면 좋겠습니다. 본문에는 참고하거나 인용한 출처도 함께 명시했습니다. 시스템 콜(System Call)을 처음 배웠을 때 가장 먼저 떠오른 생각은 하나였다. "왜 이렇게 불편하게 만들어놨지?" 파일 하나를 열거나 저장할 때도 프로그램은 운영체제(OS)를 통해 일일이 허락을 받아야 했다. 컴퓨터는 빠르고 효율적으로 움직이게 설계된 줄 알았던 내게, 이 절차는 너무 번거롭게 느껴졌다. 왜 이렇게 복잡하게 만든 걸까? 레퍼런스rebugs.tistory, [운영체제] 운영체제의 큰 그림시스템은 왜 자유를 포기했을까처음에는 이해할 수 없었다...

• format_list_bulleted Computer Science
• · 2025. 4. 26.
• textsms

크래프톤 정글 7기 후기 - 나만무 프로젝트, 팀워크로 완성한 우리만의 무기

이 글은 ‘기술적으로 무엇을 구현했는가’를 다루는 글이 아니다. 우리 팀이 어떻게 기획하고, 어떻게 팀워크를 만들어갔는지 기록한 글이다. 꽤 성공적이었다는 평가를 받은 우리의 기획과 팀워크가 어떤 고민 끝에 탄생했는지 궁금한 정글러들에게 도움이 될 것이다. 좋은 리더십과 팔로워십이란 무엇인지, 기획의 정답이란 없지만 더 나은 선택을 위해 어떤 질문들을 던졌는지, 우리의 과정을 통해 엿볼 수 있기를 바란다. 정글에서 팀 프로젝트를 앞두고 있다면, 이 글이 조금은 든든한 참고가 되기 를 바란다. 혼자서는 완성할 수 없었던 프로젝트정글의 마지막 관문, ‘나만의 무기 만들기 프로젝트(이하 나만무)’. 프로젝트가 시작되기 전부터 막연한 기대와 두려움이 함께 찾아왔다. 특히 가장 걱정했던 건 ‘내가 팀에 필요한 사..

• format_list_bulleted 크래프톤 정글
• · 2025. 4. 7.
• textsms

크래프톤 정글 7기 수료 후기 - 정글을 마치며

치타에게 쫓기던 나, 정글을 무사히 탈출!입소 준비하면서 수많은 후기를 닳도록 읽었다. 그때는 그 글들이 정말 큰 위안이었는데, 막상 수료하고 나니까 금방 글을 못 쓰겠더라. 솔직히 바로 쓰지 못했다. 시간이 좀 필요했다. 정글에서의 시간이 머릿속에서 가라앉고, 선명하게 떠오르기 시작했을 때가 돼서야 후기를 남긴다. 지금 준비하는 누군가에게 이 글이 작은 도움이 되기를 바라며. 입소 첫 주, 긴장감과 무력감 속에서 시작하다나는 원래 낯가림도 있고, 새로운 환경에서는 더 긴장하는 편이다. 그런데 입소하자마자 2박 3일 밤샘 미니 프로젝트라니. 서로 탐색할 시간도 없이 바로 팀플에 투입됐다. 랜덤으로 모인 팀에서 서로 강점도 약점도 모르는 상황에서, 나는 거의 할 줄 아는 게 없었다. 문제는 나였다. 입학..

• format_list_bulleted 크래프톤 정글
• · 2025. 4. 6.
• textsms

크래프톤 정글 7기 1주차를 보내며

정글에 입소한 지 17일째. 추석 연휴와 함께 1주차가 끝났다. 동료들과 많이 친해졌고, 기숙사 생활도 익숙해졌다. 0주차가 폭풍처럼 정신없었다면, 1주차는 추석 연휴 덕분에 상대적으로 여유로운 시간을 보냈다. 소화해야 할 학습 분량이 적거나 난이도가 쉬웠다는 뜻은 아니다. 내가 무엇을 공부했고, 얼만큼 소화했는지 체크해보고 싶어 1주차 커리큘럼을 표로 정리해봤다. 처참하다. 1주차 커리큘럼분류내용학습 했는가?소화 했는가?키워드 공부 배열O70%  문자열O70% 반복문과 재귀함수O (동료학습)10%  복잡도(BigO, 시간, 공간)O (동료학습)10%  정렬O (동료학습)10%  완전 탐색X0% 정수론O (동료학습)10%  이분 탐색X0% 분할 정복O (동료학습)10%  스택O (동료학습)10%  큐O ..

• format_list_bulleted 크래프톤 정글
• · 2024. 9. 19.
• textsms