⇒ linear line of h(x) is converted to a single point in cost function graph
Gradient Descent Algorithm
Gradient Descent Algorithm Contour Plot
If is α too small ⇒ gradient descent can be slow (alpha = step size)
If is α too big ⇒ gradient descent fail to converge, or even diverge
α rate doesn’t need to decrease →automatically take smaller steps
Batch Gradient Descent: every step needs to calculate all training sets in batches
Review:
Although there is difficulty in understanding the whole process, particularly the gradient descent equation, I am fairly able to get the big picture and the important concepts of machine learning regarding supervised/unsupervised learning, model representation, cost function, and gradient descent algorithm.
I am currently able to follow the contents and able to solve the quiz in Coursera for each lecture without much difficulty, yet!
최근에 대두되는 AI 분야 중에 한 분야가 바로 Artificial Interlligence with Ecology 이다.
AI의 발전은 단순히 우리의 일상생활에만 변화를 가져온 것이 아니다.
그 이상으로 생태계의 연구에서 AI 분야는 크게 활약을 하고 있다.
위의 기사에서도 나오듯, AI 기술로 소리나 음향에 있어서 원하는 소리만을 추출할 수 있는 기술이 발전하여 특정 생물들에 대한 연구가 더 정교하게 이루어지고 있다. 기술 발전에 따라 Computer Vision에서는 이제 음향학도 중요해주시고 있는 동향을 보이는 것이다. 예시로, University of Maryland에서 CV Video & Audio에 대한 연구가 이루어지면서, 소리를 시각화(visualize)하고 이를 분석하는 형태의 연구가 이루어지고 있다.
또한, AI와 빅데이터를 통해 생물들의 움직임, 위치, 밀집도 등 생물과 생태계의 연구에 있어서 ICT 기술을 크게 관여를 하고 있다.
또한, 이전의 생태학자들은 머신 러닝을 통해서 수십년 동안 하나의 생명체를 관찰하고 라벨링(labeling)을 해오는 작업을 했다면, 최근의 연구들은 딥러닝을 활용하여 더 이상 라벨링이 필요치 않으면서 이전의 작업들을 보다 효율적으로 작업할 수 있도록 하였다. (위의 기사에서는 립 네덜란드 해양 연구소(NIOZ)의 예린 회켄다이크(Yerin Hökendike)와 지구관측과학 책임자인 데비스 투이아(Devis Tuia)로 구성된 학제 간 연구팀은 딥러닝 모델을 사용해 사진 속의 바다표범 수를 세었다고 나와있다.)
AI 분야의 연구는 하나의 분야에 국한되지 않는다.
IT 기업에서만 사용한다는 생각을 넘어서서 AI의 활용성에 대해서 더 넓은 시야를 가지고 바라보게 된다면 그 활용분야는 무궁무진할 것이다.
Span: set of all linear combinations of the vectors (기본변형으로만들수있는모든벡터들)
Linear combination을통한 matrix multiplication의 inner product & outer product 계산방법존재
Linearly independent: only one solution (trivial solution)
Linearly dependent: other nontrivial solutions / linearly dependent set produces multiple possible linear combinations.
Subspace: a subset of R^n closed under linear combination
==> a subspace is always represented as Span{v1, …, vp}
Basis of a subspace: set of vectors that satisfies (1) fully spans the given subspace H (2)linearly independent
•eg. H = Span{v1, v2, v3} è Span{v1, v2} forms a plane, but v3=2v1+3v2 ∈Span{v1, v2} è {v1, v2} is a basis of H, but not {v1, v2, v3} nor {v1} is a basis.
class Student(object): # 클래스 선언부 (예약어 - 클래스 이름 - 부모 클래스)
SCHOOL = 'GOORM' # 클래스 속성 (Class attribute)
def __init__(self, name: str, sid: int): # 생성자 (현재 수정하고자 하는 객체=self)
self.name = name # 속성 (Attribute)
self.sid = sid
self.classes = set()
# 클래스 함수 (Method)
def take_class(self, class_name: str) -> None:
self.classes.add(class_name)
def drop_class(self, class_name: str) -> None:
self.classes.discard(class_name)
# 클래스 생성
gildong_hong = Student('Gildong Hong', 20224352)
# 속성 출력
printgildong_hong.name, "in", Student.SCHOOL)
# 메소드 실행
gildong_hong.take_class("CS101")
gildong_hong.take_class("CS202")
gildong_hong.drop_class("CS101")
# 출력 결과
# Gildong Hong in GOORM
Magic Method (매직 메소드)
(cf) __init__, __call__, ___length__, __getitem__ 을 많이 사용함
#context manager
class Student:
def __init__(self, name, sid):
self.name = name
self.sid = sid
def __enter__(self): # with 구문에 들어갈 때 사용, return 값이 as 이하로 할당
self.classes = set()
return self
def __exit__(self, exc_type, exc_value, trace): # with 구문 나갈 때 사용
self.classes.clear()
gildong_hong = Student("Gildong Hong", 20224372)
with gildong_hong:
gildong_hong.classes.add('CS201')
with Student("Gildong Hong", 20224372) as gildong_hong:
gildong_hong.classes.add('CS201')
print(gildong_hong.name, gildong_hong.sid) # Gildong Hong 20224372
원자 세계(우리가 사는 현실 세계)에서 단순히 가상의 세계를 디지털로 만듦으로써, 디지털 세계를 나를 대체할 디지털 매개체인 아바타를 통해서 돌아다니는 것이 메타버스라고 생각된다.
코로나가 많아지면서 점점 메타버스는 관심이 집중되고 있음은 4차산업에 대한 관심이 조금이라고 있고, 뉴스를 보는 사람이라면 어디선가 한 번쯤은 들어봤을 법한 이야기일 것이다.
하지만 4차 산업 혁명이후의 세계에는 어떤 세상이 그려질까.
이미 다른 글들에서도 계속 언급한 나의 생각이지만, 바로 디지털 세계가 원자의 세계로 직접적으로 영향력을 끼치는 것이다.
대표적으로 SF에서 나오는 인공지능들, 혹은 사이보그들을 예로 들 수 있을 것이다.
특히 사이보그는 인간과 기계의 결합을 상징하는 대표적인 개념이다. 위의 기사에 따르면, 사이보그들은 유기체와 기계로 구성된 하이브리드 존재라고 한다.
기사에서는 사이보그를 "어떤 특정한 실체라기보다는 시대적 상황을 설명하고자 소개한 용어"라고 정의한다. "사이보그는 근본적으로 인간의 물리적 능력 또는 힘의 강화라는 측면에서는 석기시대의 도구들과 차별되지 않는다."라고도 한다. 다만 AI와 같은 첨단과학기술들로 하여금 인간의 지적/육체적 능력을 넘어서고 압도하는 점에서 질적인 차이를 보인다고 한다.
그리고 이 존재들은 이제 현실에서 나타나기 시작하고 있다.
지금은 단순히 인간과 기계 간의 결합에 대해서 시작을 하고 있다. 가장 간단한 것을 생각해보면 인공치아나 인공 안구, 인공 팔과 다리 등을 예시로 들 수 있겠다. 하지만, 점차 인공지능에 대한 발전과 첨단기술의 발전은 그 이상의 결과물을 가져오지 않을까? 언젠가는 인간의 지적인 부분까지 기계를 사용하여 인간의 한계를 넘어서려는 노력들이 있지 않을까?
인공지능에 대한 연구가 급속도로 이루어지면서 SF와 같은 세계가 실제로 생기지 않을까라는 생각이 들게 된다.
어쩌면 그 이상의 발전이 있을 경우, 정말로 디지털 세계 자체가 원자 세계에 직접 간섭을 하는, 정말로 SF에 나올법한 스스로 생각하고 스스로 움직이는 디지털 생명체가 생겨나는 일이 발생하지 않을까.
