🔶 프로그래밍이란?컴퓨터에게 실행을 요구하는 일종의 커뮤니케이션으로, 0과 1밖에 알지 못하는 기계가 실행할 수 있도록 정확하고 상세하게 요구사항을 설명하는 작업이다.컴퓨터의 관점에서 문제를 사고하는 Computational Thinking을 통해 해결 과제를 작은 단위로 분해하고 패턴화해서 추출하며, 프로그래밍 내에서 사용될 모든 개념은 평가 가능하도록 정의해야 한다. 🔶 프로그래밍 언어컴퓨터와의 대화(명령)에 사용되는 일종의 표현 수단으로, 사람과 컴퓨터(컴파일러 또는 인터프리터) 모두가 이해할 수 있는 약속된 형태의 인공어다.프로그래밍 언어는 구문(Syntax)과 의미(Semantics)의 조합으로 표현된다. 🔶 구문과 의미프로그래밍은 언어의 문법에 부합하는 것은 물론이고 수행하고자 하는 바를..
✳︎ 운영체제 시작하기✦ 운영체제를 알아야 하는 이유 - 운영체제는 실행할 프로그램에 필요한 자원을 할당하고, 올바르게 실행되도록 돕는 특별한 프로그램입니다. - 운영체제와의 대화를 통해 하드웨어와 프로그램을 더 깊이 이해하고 문제 해결의 실마리를 찾을 수 있습니다. ✦ 운영체제의 큰 그림 - 커널은 운영체제의 핵심 기능을 담당합니다. - 이중 모드는 CPU가 명령어를 실행하는 모드를 커널 모드와 사용자 모드로 구분하는 방식입니다. - 시스템 호출은 운영체제의 서비스를 제공받기 위해 커널 모드로 전환하는 방법입니다. - 대표적인 운영체제 서비스로 프로세스 관리, 자원 접근 및 할당, 파일 시스템 관리가 있습니다. ✱ 프로세스와 스레드✦ 프..
✳︎ 메모리와 캐시 메모리✦ RAM의 특징과 종류 - RAM은 휘발성 저장 장치이고, 보조기억장치는 비휘발성 저장 장치입니다. - DRAM은 시간이 지나면 저장된 데이터가 점차 사라지는 RAM 입니다. - SRAM은 시간이 지나도 저장된 데이터가 사라지지 않는 RAM 입니다. - SDRAM은 클럭과 동기화된 DRAM 입니다. - DDR SDRAM은 SDR SDRAM에 비해 대역폭이 두 배 넓습니다. ✦ 메모리의 주소 공간 - 물리 주소는 메모리 하드웨어상의 주소이고, 논리 주소는 CPU와 실행 중인 프로그램이 사용하는 주소입니다. - MMU는 논리 주소를 물리 주소로 변환합니다. - 베이스 레지스터는 프로그램의 첫 물리 주소..
✳︎ CPU의 작동 원리✦ ALU와 제어장치 ◦ ALU - CPU 내부 장치 중 계산을 담당하는 장치 - ALU가 받아들이는 정보 : 피연산자(레지스터), 제어 신호(제어장치) - ALU가 내보내는 정보 : 연산 결과, 플래그(연산 결과에 대한 추가적인 상태 정보) - 연산 결과는 명령어 레지스터에 플래그는 플래그 레지스터에 저장됨 ◦ 제어장치 - 제어 신호를 내보내고 명령어를 해석하는 부품 - 제어 신호는 컴퓨터 부품을 관리하고 작동시키는 일종의 전기 신호 - 제어장치가 받아들이는 정보 : 클럭 신호, 해석해야 할 명령어, 플래그 값, 제어 버스로 전달된 제어 신호 ✳︎ 레지스터✦ 반드시 알아야 할 레지스터 ..
✳︎ 컴퓨터 구조 시작하기✦︎ 컴퓨터 구조의 큰 그림 - 컴퓨터가 이해하는 정보에는 데이터와 명령어가 있습니다. - 메모리는 현재 실행되는 프로그램의 명령어와 데이터를 저장하는 부품입니다. - CPU는 메모리에 저장된 명령어를 읽어 들이고, 해석하고, 실행하는 부품입니다. - 보조기억장치는 전원이 꺼져도 보관할 프로그램을 저장하는 부품입니다. - 입출력장치는 컴퓨터 외부에 연결되어 컴퓨터 내부와 정보를 교환할 수 있는 부품입니다. - 시스템 버스는 컴퓨터의 네 가지 핵심 부품들이 서로 정보를 주고받는 통로입니다. ✳︎ 데이터✦︎ 0과 1로 숫자를 표현하는 방법 - 비트는 0과 1로 표현할 수 있는 가장 작은 정보 단위..
이번에 리뷰할 논문은 Three Scenarios for Continual Learning 이다. 해당 논문은 Continual Learning으로 학습한 모델을 평가하기 위한 평가 지표 3가지를 제시하고 있다. 학습 과정이 동일한 모델 3개가 있고(모델 결과도 동일하다) 모델 결과를 테스트할 때 어떤 걸 물어보느냐에 따라 사용하는 평가 지표가 달라지게 된다. 지금부터 3개의 평가 지표는 무엇이고, 어떻게 사용되는지 알아보도록 하자.Continual LearningContinual Learning이란 모델이 이전에 학습한 정보를 그대로 간직한 채 새로운 데이터 특징을 학습하는 방법론이다. 이때 가장 중요한 부분이 '이전에 학습한 정보를 그대로 간직'한다는 것이다. 따라서 당연하게도 Continual Le..
2017년에 발표된 Attention Is All You Need는 Transformer 모델을 제안한 논문이다. 이 모델은 기존의 RNN이나 LSTM을 사용하지 않고, 오직 Attention Mechanism만을 사용하여 Sequence Data를 처리한다. 지금부터 NLP 분야에 혁신적인 발전을 일으킨 Transformer에 대해 알아보자.Attention MechanismTransformer에서 가장 중요한 개념인 Attention은 한 단어와 다른 단어 사이의 관계를 모두 파악할 수 있어 특정 몇 단어 간의 관계가 아닌 모든 단어와 대응되는 관계를 파악한다. 이렇게 Sequence Data의 순서 정보에서 벗어나 학습하여 RNN, LSTM 등에서 문제 되었던 Long Term Dependency ..
이번에 리뷰할 논문은 2015년 CVPR에 게시된 Show and Tell: A Neural Image Caption Generator로, Image Caption 모델을 소개하고 있다. Image CaptionImage Caption은 말 그대로 Image에 대한 Caption을 생성해내는 방법이다. 즉, 모델의 Input은 Image data가 되고, Output은 Text data가 된다. 본 논문에서 소개하는 Image Caption 모델은 NIC(Neural Image Caption)으로 Neural Network(CNN, RNN)를 이용하여 Image를 충분히 설명하는 Caption을 생성하는 모델이다. 지금부터 어떤 방법으로 Image Caption에 접근하는지, 설명하고 있는 모델 구조는 ..