/ The Blog of Jinho Ko / Thoughts

·

9 min read

My Research Statement

A statement of research during my Ph.D program

By Jinho Ko

English Version

The first time I became interested in the field of artificial intelligence was when AlphaGo was released during my sophomore year of high school. At that time, there weren’t many excellent lectures or tools available like there are now, so I personally implemented a perceptron model in C language and derived the backward propagation process. I also explored the effects of activation functions. The concept of representing knowledge in the brain as data and putting it on a computer fascinated me, and I focused on studying this field in university as well. Taking advantage of the benefit of being able to take desired classes without a fixed curriculum, I took AI-related courses intensively starting from my early years. In my first year, I took an AI course taught by Peter Abbeel, a leading AI scholar in the field, at UC Berkeley, and confirmed the future potential of this field. Afterward, I felt that the undergraduate AI courses were not sufficient, so I prioritized taking graduate-level courses such as natural language processing and reinforcement learning to further my studies.

When looking at AI from a broader perspective, I consider it as placing human intelligence on some device, and I have explored various methods related to this. I have also taken courses related to neuroscience and life sciences and developed an interest in technologies like neuromorphic computing and knowledge graphs. Through these experiences, I have come to realize that many aspects of AI are represented in the form of graphs, and in the future, it will become increasingly important to handle graph data effectively in various depths and domains. Furthermore, there is still a need for further advancements in AI processing systems. For example, there is a need for systems that can address the persistent scalability issues present in GNN (Graph Neural Network).

In particular, after taking a systems programming course, I thought that I could contribute to building such systems. In my third and fourth years, I focused on taking system-oriented courses to build my knowledge in computer engineering. During this time, through a system programming course project, I realized that I had a strong aptitude for the systems field. The project required implementing a system for efficiently sorting very large-sized data that couldn’t fit on a single machine. I anticipated and minimized many potential issues that could arise compared to a typical program, and designed various components to address them. As a result, among all the students, only my system ran properly, and the professor praised it as “truly impressive” after seeing the demo. System development, especially data systems for AI, requires knowledge encompassing traditional fields such as databases, compilers, and operating systems, as well as the latest artificial intelligence fields such as big data, algorithm design, and deep learning optimization. This aligns well with my passion for studying a wide range of subjects, and it has become an area that I would like to explore deeply.

To achieve this, I want to pursue graduate studies at POSTECH and start by creating graph analysis and learning systems. The technology for processing graph data is still lacking compared to traditional relational data, and it is directly relevant to AI technology. Therefore, there is a need for systems that can efficiently and comprehensively handle graph data. To accomplish this, I plan to continue my studies in various fields while actively engaging in system implementation, studying, and brainstorming.

By the time of graduation, my goal is to become someone who can build any type of data system. During the degree program, I don’t want to create systems solely for research papers. I want to create powerful systems that people can actually use, and I want to focus on making them widely applicable. As a result, one of my goals within the degree period is to open-source the developed system as Apache software. I believe that good-quality research papers and patents will naturally follow.

Korean Version

인공지능 분야에 처음 관심을 가지게 된 시기는 AlphaGo가 나왔던 고등학교 2학년 때였습니다. 지금처럼 훌륭한 강의들과 도구들이 많지 않았던 때라 C언어로 perceptron 모델을 직접 구현하며 backward propagation 과정을 유도했고, activation function이 가지는 효과에 관해서도 탐구해보던 기억이 있습니다. 뉴런 사이 연결의 강도로 두뇌 속의 지식을 데이터로 나타내고 컴퓨터 위에 올린다는 새로운 개념이 신기했고, 대학에서도 이 분야를 집중적으로 공부했습니다. 커리큘럼 없이 원하는 수업을 들을 수 있는 학과의 이점을 활용해 저학년 때부터 인공지능 관련 수업을 집중적으로 수강했습니다. 1학년 때 UC버클리에서 AI 분야의 최고 석학인 Peter Abbeel 교수의 AI 수업을 수강하며 이 분야가 가진 미래를 확인했고, 이후 학부의 AI 과목들이 충분하지 않다고 생각해 자연어 처리, 강화학습 등 대학원 과목들을 우선적으로 수강하며 공부를 해 왔습니다.

AI를 큰 틀에서 보자면 인간의 지능을 어떤 장치 위에 올리는 것으로 생각하여 이와 관련해 어떤 방법들이 있는지에 대해 탐색해 왔습니다. 두뇌와 관련된 생명과 과목도 수강하고 neuromorphic computing이나 knowledge graph와 같은 기술에도 관심을 가졌습니다. 이를 통해 제가 깨달은 것은, AI를 들여다보면 많은 것이 그래프의 형태로 이뤄져 있고 앞으로는 다양한 깊이와 도메인에서 그래프 데이터를 잘 처리하는 것이 중요해지리라는 것입니다. 또한, 아직 AI를 처리할 시스템 쪽으로도 더 많은 발전이 이뤄져야 한다는 것입니다. 예를 들자면 GNN이 가지고 있는 고질적인 scalability 문제를 해결할 시스템이 필요합니다.

특히 시스템 프로그래밍 과목을 수강한 이후 이러한 시스템을 만드는 데 제가 기여할 수 있겠다고 생각했습니다. 3, 4학년 때에는 컴퓨터 공학 쪽의 지식을 쌓고자 시스템 과목 위주로 수강하였는데, 이 때 수강한 시스템 프로그래밍 과목 프로젝트를 통해 제 자신이 시스템 분야에 큰 특기가 있다고 생각했습니다. 이 프로젝트에서는 단일 머신에 담을 수 없는 아주 큰 크기의 데이터를 빠르게 분산 정렬하는 시스템을 구현해야 했습니다. 저는 일반 프로그램에 비해 발생할 수 있는 많은 문제를 예견하고, 이를 최소화하기 위한 설계를 해나가며 직접 여러 컴포넌트를 구현했습니다. 결과적으로 전체 수강생 중 제 시스템만이 제대로 돌아갔고 강의 교수님께서는 데모를 보시고는 ‘truly impressive’ 라며 칭찬을 해 주셨습니다. 시스템 분야, 특히 AI를 위한 데이터 시스템은 데이터베이스, 컴파일러, 운영체제와 같은 전통적 분야와 더불어 빅 데이터, 알고리즘, 딥 러닝 최적화 등 최신 인공지능 분야 모두를 알아야만 할 수 있어, 폭넓은 분야를 공부하기 좋아하는 제게 아주 잘 맞고 깊게 파 보고 싶은 분야가 되었습니다.

이를 실현하기 위해 포항공과대학교 대학원에 진학해 그래프 분석 및 러닝 시스템을 만들어 보는 것부터 시작하고 싶습니다. 그래프 데이터를 처리하기 위한 기술은 기존 관계형 데이터의 그것에 비해 아직 많이 부족하며, 또한 AI 기술과도 직접적으로 연관됩니다. 따라서 그래프 데이터를 효율적이고 통합적으로 처리하기 위한 시스템이 필요합니다. 이를 위해, 제가 해 오던 바와 같이 폭넓은 분야로의 학업을 계속함과 동시에 시스템 구현을 위한 공부와 아이디어 작업을 주도적으로 해 나가고자 합니다.

졸업할 즈음에는 어떠한 데이터 시스템이든 만들어낼 수 있는 사람으로 성장하는 것이 제 목표입니다. 학위 과정 동안 논문만을 위한 시스템을 만들고 싶지는 않습니다. 사람들이 실제로 사용할 수 있는 강력한 시스템을 만들고 싶고, 그것이 범용적으로 사용될 수 있도록 집중하고자 합니다. 이를 위해 개발한 시스템을 아파치 소프트웨어로써 오픈소스화 하는 것이 학위 기간 내의 또 다른 목표입니다. 좋은 질의 논문과 특허는 자연스럽게 따라오리라 생각합니다.

last modified August 4, 2023
comments powered by Disqus

© Copyright 2024. Jinho Ko. All rights reserved. Last updated: August 04, 2023.