논문

SL, RL을 기반으로 한 라우팅 알고리즘 - 1

Beige00 2023. 12. 27. 17:01

* 본 글은 IRSML: An intelligent routing algorithm based on machine learning in software defined wireless networking 을 읽으며 공부한 내용을 바탕으로 작성함. (출처: https://onlinelibrary.wiley.com/doi/full/10.4218/etrij.2021-0212)

 

0. Abstract


! 배경 지식 공부

 

- Software-defined wireless networking(SDWN) : 소프트웨어로 구성된 제어 및 관리 기능을 갖춘 무선 네트워크 아키텍처를 나타냄. 소프트웨어 상에서 정의된 네트워크 기능을 이용해 리소스를 중앙에서 관리하며 동적으로 구성할 수 있게 해줌.

1. Centralized Control

2. Programmable network

3. Virtual resource

등을 제공하여 보다 더 유연하고 자동화된 네트워크 변경 대처가 가능해진다.

 

- Packet blocking probability(PBP) : 패킷 전송이 차단되거나 거부될 확률을 나타내는 지표이다.

 

- End to End Delay(EED) : 데이터가 송신지에서 수신지까지 전송되는 데 걸리는 총 시간을 의미. Transmission+Propagation+Processing+Queueing Delay들의 합이다.


 

optimal routing technique은 이러한 SDWN의 성능을 끌어올리는데 중요한 요소이다.

기존의 routing technique은 주로 Integer Linear Programming problem(ILP)를 가정하고 routing을 하였다.

그러나 이 방법은 오직 한 routing obj의 PBP, EED, throughput에만 집중하는 경향이 있다.

따라서 여러 obj를 병렬로 처리하는 routing algorithm을 다루기 어렵다. 그래서 우리는 SDWN에서 machine learning을 이용해 routing을 제어하는 방법을 생각해볼 것이다.

(즉, multiple obj들을 최적화하는 알고리즘을 제안하는 것이다.)

 

본 논문의 접근법의 골자는 EED, Quality of transmission(QoT), PBP를 기준으로한 Supervised Learning(SL)로 link들의 performance metrics를 예측하고, Reinforcement Learning으로 라우팅을 완료하는 것이다.

Route 선택의 기준이 되는데 쓰일 PBP를 저장하기 위해 RL의 fundamental equation에 'Q-value'를 사용할 것이다.

또한 Learning rate 역시 학습을 하는 동안 constraints를 정의하기 위해 지속적으로 바뀌어야 한다. 이 constraint들로써 QoT와 EED를 추가한다.

 

1. Introduction

 

Image Source: "IRSML: An intelligent routing algorithm based on machine learning in software defined wireless networking" by Thuy-Van T. Duong and Le Huu Binh (2022). Accepted for publication. Source:  https://onlinelibrary.wiley.com/doi/full/10.4218/etrij.2021-0212

 

해당 사진은 SDWN의 모습을 나타낸 것이다. SDWN은 mesh topology에 따라 wireless transmission으로 연결되는 노드들에 의해 형성된다. 각 노드들은 Wireless Router(WR)다. WR들 중 몇몇은 gateway(GW)를 통해 인터넷에 연결되어있다.

이 때 인터넷 연결의 bandwidth를 보장하기 위해, optical fiber가 GW,WR 사이에 사용된다. 다양한 device들(Mobile Host)은 WR로 무선 연결을 통해 인터넷에 접근한다.

SDWN의 구조를 위해 네트워크 시스템은 3 계층으로 나뉜다. (각각 infrastructure layer, control layer, aplication layer로 구성된다.)

Infrastructure layer의 경우에는 WR과 MH와 같은 무선 네트워크 기기를 포함한다. 단, 이러한 기기들은 오직 control layer에 의해 제공된 flow switch table에 기반한 data packet switch만을 수행한다.

네트워크 제어 기능은 SDN controller에 의해 수행된다. SDWN에서 가장 기본적인 routing protocol은  centralized routing이다. 따라서 모든 새로운 path를 찾는 라우팅 알고리즘은 SDN controller에서 돌아간다.

이러한 centralized routing의 대표적인 방법으로는 크게 2가지가 있다.

 

1. Using a routing metric : 주어진 목적에 맞게 metric에 따른 라우팅을 하는 것이다. 이 때, Shortest path algorithm이 route를 찾는데 사용된다. 여기서 shortest path가 best metric으로 고려된다.

 

2. Solve LP or NP problem : 또 다른 방법으로는 linear, non-linear programming problem을 가정하고 주어진 objective와 constraint들에 기반하여 라우팅 알고리즘을 공식화 시키는 것이다. 이를 SDN controller가 해결함으로써 route를 찾을 수 있다.

 

이러한 문제 접근법들은 대부분 오직 한 개의 performance parameter를 최적화한다.(PBP, maximizing network throughput, QoT 등등)

여러 가지의 parameter들을 동시에 최적화하기 위해서는 multiobjective optimization problem을 해결하는 것이 요구되나, 매우 어려운 계산 복잡도를 지닌 문제가 되어버린다.

그러나 이를 최근 발전하고 있는 ML을 이용하여 해결할 수 있다. SL과 RL을 기반하여 문제를 해결해보자.

 

여기까지가 해당 논문의 작성 의도와 다루고 있는 내용, 배경 지식, 마주한 문제 상황에 대한 설명이었다.

 

3줄 요약

 

1. SDWN은 효과적인 네트워크 변경 제어를 제공함.

2. SDWN에서 routing protocol로 써는 centralized routing 이 고려되며, routing metric을 이용한 shrotest patch를 찾는 방법, LP or NP problem을 해결하는 방법이 존재한다.

3. 그러나 이러한 방법들은 오직 한 개의 지표만 고려하는 경향을 보이며, 여러 지표를 동시에 고려하는 방법의 경우 계산 복잡성이 크게 증가한다. 이를 최근 발전하는 ML을 통해 해결해보자.