전체 글 110

4. System Configuration: DHCP & Autoconfiguration - 2

3. Stateless Address Autoconfiguration (SLAAC)대부분의 라우터는 수동으로 주소가 구성되지만, 호스트는 수동으로 주소를 할당하거나 DHCP와 같은 할당 프로토콜을 사용하거나 다른 알고리즘을 통해 자동으로 주소를 할당받을 수 있다. 자동 할당은 생성되는 주소 유형에 따라 두 가지 형태로 나뉜다.1. Link-Local address : 로컬 주소의 경우 단일 링크에서만 사용되고 따라서 호스트는 로컬에서 사용되고 있지 않은 적절한 주소를 찾아야한다.2. Global connectivity address : 글로벌 연결을 위한 주소는 일반적으로 따로 관리해줘야하는 부분이 생긴다.IPv4와 IPv6 모두에서 Link-Local address autoconfiguration 매커..

Computer Network 2025.01.22

4. System Configuration: DHCP & Autoconfiguration - 1

1. IntroductionTCP/IP Protocol suite을 사용하려면 각 호스트와 라우터에 일정량의 구성 정보가 필요하다. 구성 정보는 시스템에 로컬 이름을 지정하거나, 인터페이스에 IP 주소와 같은 식별자를 할당하는데 사용한다. 또한 DNS(Domain Name System)이나 모바일 IP Home Agent와 같은 다양한 네트워크 서비스를 제공하거나 사용하는데도 활용된다. 그럼 이러한 구성 정보는 어떻게 만들까? 여기에는 3가지 접근방법이 있다. 각각 정보를 수동으로 입력하는 법, 네트워크 서비스를 이용해 시스템이 정보를 획득하도록 하는 방법, 알고리즘을 사용해 자동으로 정보를 결정하는 법이 있다. 이전에 살펴본 바와 같이, TCP/IP 네트워킹에 사용되는 모든 인터페이스는 IP 주소, 서..

Computer Network 2025.01.17

3. The Internet Protocol (IP) - 2

4. IP ForwardingIP Forwarding은 토폴로지 가정에 따라 방식이 다르다. 예를들어 P2P 연결 등 목적지가 호스트에 직접 연결되어 있는 경우나 공유 네트워크에 있는 경우 IP 데이터그램은 MAC 주소만 가지고 직접 전송이 가능하다. 그러나 그렇지 않은 경우(Foreign Network를 하나 이상 거치는 경우), 호스트는 데이터그램을 자신에 연결된 라우터로 전송하고 해당 라우터가 데이터그램을 목적지까지 전달한다. 여기서 호스트란 자신이 생성하지 않은 데이터그램을 전달하지 않지만, 라우터는 전달하는 네트워크 노드라고 생각하면 된다.일반적으로 IP 프로토콜은 동일한 기기의 다른 상위 계층 프로토콜(TCP, UDP)로부터 데이터그램을 받거나 네트워크 인터페이스로부터 데이터를 받을 수 있다...

Computer Network 2025.01.14

3. The Internet Protocol (IP) - 1

1. IntroductionIP는 TCP/IP 프로토콜 스위트의 핵심 프로토콜이다. TCP, UDP, ICMP, IGMP 들은 모두 데이터를 IP datagram의 형식으로 전송한다. IP는 best-effort 기반의 connectionless datagram 전송 서비스를 제공한다. 여기서 best-effort이란 IP datagram이 목적지에 성공적으로 도달할 것을 보장하지 않는다는 뜻이다. 예를 들어, 라우터가 일시적으로 버퍼 메모리가 고갈되면 IP는 간단한 오류 처리 알고리즘을 사용한다. 바로 고갈 후 도착한 데이터를 버리는 것이다. 이 후 대처는 상위 계층이 제공해야한다. (타이머 설정 등). IPv4와 IPv6 모두 이러한 best-effort model을 사용한다.Connectionles..

Computer Network 2025.01.08

2. ARP : Address Resolution Protocol

1. IntroductionIP protocol은 다양한 물리적 네트워크 유형 간의 패킷 교환 상호 운용성을 제공하도록 설계되었다. 이를 가능하게 하기 위해 Network layer 소프트웨어에서 사용하는 IP 주소와 하단 계층에서 해석하는 MAC 주소 간 변환이 필요하다. 일반적으로 Network Interface HW는 하나의 고유 HW 주소를 가지고 있다. (Ex : 이더넷, 802.11의 랜카드의 경우 48비트 값)하드웨어가 교환하는 프레임은 올바른 하드웨어 주소를 사용하여 올바른 NIH로 이동하여야하며 그렇지 않으면 데이터 전송이 불가능하다. 그러나 IPv4 network는 32비트 IPv4라는 자체 주소 체계를 HW 주소와 분리하여 별도로 사용한다. 호스트의 IP 주소를 아는 것 만으로는 하드..

Computer Network 2024.12.30

1. Link Layer - 2

고정된 헤더를 각 프레임마다 전송해야하는 비용의 영향을 줄이기 위해, 서로 다른 프로토콜의 여러 개의 개별 payload를 하나의 PPP 프레임에 multiplexing 하는 방법이 도입되었다.(PPPMux)우선 PPP 기본 헤더의 Protocol 필드를 PPPMux 로 세팅하고, 각각의 payload 플록을 프레임에 삽입한다. 이 때, 각 payload 블록 앞에 1~4 바이트 크기의 서브프레임 헤더가 추가된다. 즉, 여러 프로토콜 데이터를 하나의 PPP 프레임으로 통합하여 전송하는 것이다.  - Multilink PPP (MP)PPP의 특별 옵션인 Multilink PPP는 여러 Point-to-Point link를 하나로 통합하여 작동할 수 있도록 설계되었다. MP는 멀티링크 지원을 나타내기 위한 ..

Computer Network 2024.12.26

Distributed System - 10. Distributed Learning Algorithms

* Distributed learning- 왜 분산 학습을 하여야할까?ex) On-device learning만약 모델이 개인 데이터를 학습하여 맞춤형 서비스를 제공해야한다고 생각해보자. 이 경우 Privacy 문제 때문에 Server로 데이터를 보내는 것은 문제가 될 수 있다. 1. 데이터의 분산성 : 데이터는 센서, 기기, DB 등 다양한 곳에 분산되어 존재하지만, 보안 등의 이유 때문에 고립되어있을 수 있다.2. AI 시스템의 적응 필요성 : AI 시스템은 센서에서 수집된 새로운 데이터에 지속적으로 적응해야할 필요가 있다. 즉, 개인적인 데이터를 다룰 일이 필수적으로 생긴다.=> 분산된 여러 client에서 데이터를 활용해 모델을 자체적으로 학습할 수 없을까?1. Federated Learning ..

개인 공부 2024.12.06

Distributed System - 9. Distributed Training

1. Motivation최근에는 분산 컴퓨팅의 활용 도메인에 AI를 위한 HPC 기능을 제공하는 것이 추가되고 있다. 그 이유에는 Transformer의 등장 이후 가속화된 모델 크기 비대화가 큰 지분을 차지한다.모델을 사용한단 것은 크게 Training - Inference의 단계가 존재하게 되는데,  Training의 단계에서 리소스 요구량은 단일 노드가 감당하기에는 불가능에 가까워지는 것이 현실이다. GPT-3 175B는 A100 기준으로도 단일로 3100000의 비현실적인 시간이 소요되는 것을 확인할 수 있다. * Data parallelism따라서 결국에는 여러 GPU가 학습을 병렬적으로 처리하게 된다. 이 병렬 방법중 Data parallelism이란 데이터 자체를 분할하여 각 GPU에게 할당..

개인 공부 2024.12.05