Tài liệu Bài giảng:Trí tuệ nhân tạo docx – Tài liệu text

Tài liệu Bài giảng:Trí tuệ nhân tạo docx

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (1.46 MB, 202 trang )

Đại Học Bách Khoa – Tp.HCM – Bản quyền

Khoa Công Nghệ Thông Tin Tháng 6/2001
ThS Nguyễn Cao Trí – [email protected]
KS Lê Thành Sách – [email protected]
TRÍ
TRÍ

TUỆ
TUỆ

NHÂN
NHÂN

TẠO
TẠO
Artificial
Artificial

Intelligent
Intelligent
Khoa Cơng Nghệ Thơng Tin
Đại Học Bách Khoa – Tp. HCM
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin

Bài giảng “Trí tuệ nhân tạo” – Slide 2
Nội dung mơn học – Giới thiệu

Chương
Chương
1:
1:
Giới
Giới

thiệu
thiệu

Ngành Trí tuệ nhân tạo là gì?

Mục tiêu nghiên cứu của ngành Trí tuệ nhân tạo

Lịch sử hình thành và hiện trạng

Turing Test

Chương
Chương
2:
2:
Logic
Logic

vị
vị

từ
từ

Mệnh đề & logic vị từ

Logic vị từ dưới góc nhìn của AI
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 3
Nội dung mơn học – Các kỹ thuật tìm kiếm

Chương
Chương
3:
3:
Tìm
Tìm

kiếm
kiếm

trên

trên

khơng
khơng

gian
gian

trạng
trạng

thái
thái
(State Space Search)

AI : Biểu diễn và tìm kiếm

Các giải thuật tìm kiếm trên khơng gian trạng thái

Depth first search (DFS) – Breath first search (BFS)

Chương
Chương
4:
4:
Tìm

Tìm

kiếm
kiếm

theo
theo

Heuristic
Heuristic


Heuristic là gì?

Tìm kiếm theo heuristic

Các giải thuật Best first search (BFS), Giải thuật A*

Chiến lược Minimax, Alpha Beta
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 4
Nội dung mơn học – Kỹ thuật phát triển ứng dụng

Chương
Chương
5:
5:
Hệ
Hệ

luật
luật

sinh
sinh

Tìm kiếm đệ qui

Hệ luật sinh: Định nghĩa và ứng dụng

Tìm kiếm trên hệ luật sinh

Chương
Chương
6:
6:
Hệ
Hệ

chun

chun

gia
gia

Giới thiệu về hệ chun gia

Mơ hình hệ chun gia: dự trên luật, dựa trên frame

Phát triển một hệ chun gia

Chương
Chương
7:
7:
Biểu
Biểu

diển
diển

tri
tri

thức
thức


Biểu diển tri thức trong AI: vai trò và ứng dụng

Các kỹ thuật biểu diển tri thức: semantic network, lưu đồ phụ
thuộc khái niệm, frame, script
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 5
Thực hành &Tài liệu tham khảo

Thực
Thực

hành
hành

Prolog
Prolog


CLISP
CLISP


Prolog : Các giải thuật tìm kiếm

CLISP : Biểu diển tri thức

Bài tập lớn

Tài
Tài

liệu
liệu

tham
tham

khảo
khảo

Bài giảng “Trí tuệ nhân tạo” – ThS Nguyễn Cao Trí – KS Lê Thành Sách

Artificial Inteligent – George F. Luget & Cilliam A. Stubblefied

Giáo trình “Trí tuệ nhân tạo” – KS Nguyễn Đức Cường

Trí tuệ nhận tạo – Nguyễn Quang Tuấn – Hà nội
Đại Học Bách Khoa – Tp.HCM – Bản quyền


Khoa Công Nghệ Thông Tin Tháng 6/2001
ThS Nguyễn Cao Trí – [email protected]
KS Lê Thành Sách – [email protected]
Chương
Chương
1:
1:
GIỚI
GIỚI

THIỆU
THIỆU

Ngành Trí tuệ nhân tạo là gì?

Mục tiêu nghiên cứu của ngành Trí tuệ nhân tạo

Lịch sử hình thành và hiện trạng

Turing Test
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 7
Đối tượng nghiên cứu của AI

Đối

Đối

tượng
tượng

nghiên
nghiên

cứu
cứu

của
của

ngành
ngành

AI
AI
AI là ngành nghiên cứu về các hành xử thơng minh
(intelligent behaviour) bao gồm: thu thập, lưu trữ tri thức,
suy luận, hoạt động và kỹ năng.
Đối tượng nghiên cứu là các “hành xử thơng minh” chứ
khơng phải là “sự thơng minh”.

‘Khơng có’ Sự Thơng Minh
Chỉ có
Biểu hiện thơng minh qua hành xử
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 8
Sự Thơng Minh

Thơng
Thơng

minh
minh

hay
hay

Hành
Hành

xử
xử

thơng
thơng

minh
minh




?
?

Hành xử thơng minh: là các hoạt động của một đối tượng như
là kết quả của một q trình thu thập, xử lý và điều khiển
theo những tri thức đã có hay mới phát sinh (thường cho kết
quả tốt theo mong đợi so với các hành xử thơng thường) là
biểu hiện cụ thể, cảm nhận được của “Sự thơng minh”

Khái niệm về tính thơng minh của một đối tượng thường biểu
hiện qua các hoạt động:

Sự hiểu biết và nhận thức được tri thức

Sự lý luận tạo ra tri thức mới dựa trên tri thức đã có

Hành động theo kết quả của các lý luận

Kỹ năng (Skill)
TRI
THỨC ???
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 9
Tri thức (Knowledge)

Tri
Tri

thức
thức


những
những

thơng
thơng

tin
tin

chứa
chứa

đựng
đựng
2
2
thành
thành

phần
phần

Các khái niệm:

Các khái niệm cơ bản: là các khái niệm mang tính quy ước

Các khái niệm phát triển: Được hình thành từ các khác niệm cơ bản thành các
khái niệm phức hợp phức tạp hơn.

Các phương pháp nhận thức:

Các qui luật, các thủ tục

Phương pháp suy diễn, lý luận,

Tri
Tri

thức
thức


điều
điều

kiện
kiện

tiên
tiên

quyết
quyết

của
của

các
các

hành
hành

xử
xử

thơng
thơng

minh
minh

hay
hay

“Sự
“Sự

thơng
thơng

minh”
minh”

Tri
Tri

thức
thức


được
được

qua
qua

sự
sự

thu
thu

thập
thập

tri
tri

thức
thức


sản
sản

sinh

sinh

tri
tri

thức
thức

Q
Q

trình
trình

thu
thu

thập
thập


sản
sản

sinh
sinh

tri
tri

thức
thức


hai
hai

q
q

trình
trình

song
song

song
song


nối
nối

tiếp
tiếp

với
với

nhau
nhau


khơng
khơng

bao
bao

giờ
giờ

chấm
chấm

dứt
dứt

trong
trong

một
một

thực
thực

thể
thể

“Thơng
“Thơng

Minh”
Minh”
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 10
Tri thức – Thu thập và sản sinh

Thu
Thu

thập
thập

tri
tri

thức
thức
:
:

Tri thức được thu thập từ thơng tin, là kết quả của một q
trình thu nhận dữ liệu, xử lý và lưu trữ. Thơng thường q
trình thu thập tri thức gồm các bước sau:

Xác định lĩnh vực/phạm vi tri thức cần quan tâm

Thu thập dữ liệu liên quan dưới dạng các trường hợp cụ thể.

Hệ thống hóa, rút ra những thơng tin tổng qt, đại diện cho các trường hợp đã biết
– Tổng qt hóa.

Xem xét và giữ lại những thơng tin liên quan đến vấn đề cần quan tâm, ta có các
tri thức về vấn đề đó.

Sản
Sản

sinh
sinh

tri
tri

thức
thức
:
:

Tri thức sau khi được thu thập sẽ được đưa vào mạng tri thức
đã có.

Trên cơ sở đó thực hiện các liên kết, suy diễn, kiểm chứng để
sản sinh ra các tri thức mới.
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 11
Tri thức – Tri thức siêu cấp



Trí
Trí

thức

thức

siêu
siêu

cấp”
cấp”
(
(
meta
meta

knowledge
knowledge
)
)
hay
hay

“Tri
“Tri

thức
thức

về
về

Tri
Tri

thức”
thức”
Là các tri thức dùng để:

Đánh giá tri thức khác

Đánh giá kết quả của q trình suy diễn

Kiểm chứng các tri thức mới

Phương
Phương

tiện
tiện

truyền
truyền

tri
tri

thức
thức
:
:
ngơn
ngơn

ngữ
ngữ

tự
tự

nhiên
nhiên
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 12
Hành xử thơng minh – Kết luận

Hành
Hành

xử
xử

thơng
thơng

minh
minh

khơng
khơng

đơn
đơn

thuần
thuần


các
các

hành
hành

động
động

như
như


kết
kết

quả
quả

của
của

q
q

trình
trình

thu
thu

thập
thập

tri
tri

thức
thức


suy
suy

luận
luận

trên
trên

tri
tri

thức
thức
.
.

Hành
Hành

xử
xử

thơng
thơng

minh
minh

còn
còn

bao
bao

hàm
hàm


Sự tương tác với mơi trường để nhận các phản hồi

Sự tiếp nhận các phản hồi để điều chỉnh hành động – Skill

Sự tiếp nhận các phản hồi để hiệu chỉnh và cập nhật tri thức

Tính
Tính

chất
chất

thơng
thơng

minh
minh

của
của

một
một

đối
đối

tượng
tượng


sự
sự

tổng
tổng

hợp
hợp

của
của

cả
cả
3
3
yếu
yếu

tố
tố

:
:
thu
thu

thập
thập

tri
tri

thức
thức
,
,
suy
suy

luận
luận


hành
hành

xử
xử

của
của

đối
đối

tượng
tượng

trên
trên

tri
tri

thức
thức

thu
thu

thập
thập

được
được
.
.
Chúng
Chúng

hòa
hòa

quyện
quyện

vào
vào

nhau
nhau

thành
thành

một
một

thể
thể

thống
thống

nhất
nhất


Sự
Sự

Thơng
Thơng

Minh”
Minh”

Khơng
Khơng

thể
thể

đánh
đánh

giá
giá

riêng
riêng

lẽ

lẽ

bất
bất

kỳ
kỳ

một
một

khía
khía

cạnh
cạnh

nào
nào

để
để

nói
nói

về
về

tính
tính

thơng
thơng

minh
minh
.
.
 THƠNG MINH CẦN TRI THỨC
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 13
Mục tiêu nghiên cứu của ngành AI
Trí
Trí

tuệ
tuệ

nhân
nhân

tạo
tạo

nhằm
nhằm

tạo
tạo

ra
ra

“Máy
“Máy

người”
người”
?
?
Mục
Mục

tiêu
tiêu

Xây
Xây

dựng
dựng


thuyết
thuyết

về
về

thơng
thơng

minh
minh

để
để

giải
giải

thích
thích

các
các

hoạt
hoạt

động

động

thơng
thơng

minh
minh

Tìm
Tìm

hiểu
hiểu


chế
chế

sự
sự

thơng
thơng

minh
minh

của
của

con
con

người
người

Cơ chế lưu trữ tri thức

Cơ chế khai thác tri thức

Xây
Xây

dựng
dựng


chế
chế

hiện
hiện

thực
thực

sự
sự

thơng
thơng

minh
minh

Á
Á

p
p

dụng
dụng

các
các

hiểu
hiểu

biết
biết

này
này

vào
vào

các
các

máy
máy

móc
móc

phục
phục

vụ
vụ

con
con

người
người
.
.
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin

Bài giảng “Trí tuệ nhân tạo” – Slide 14
Mục tiêu của AI (tt)

Cụ
Cụ

thể
thể
:
:

Kỹ thuật: xây dựng các máy móc có tính thơng minh nhằm đáp
ứng tốt hơn nhu cầu của con người.

Khoa học: xây dựng và phát triển các khái niệm, thuật ngữ,
phương pháp để hiểu được các hành xử thơng minh của sinh
vật.

Đối tượng thường được chú trọng phát triển là máy tính
Sự
Sự

cần
cần

thiết
thiết

của
của

ngành
ngành

AI
AI
?????
?????
Làm
Làm

sao
sao

biết
biết

máy
máy


thơng
thơng

minh
minh
?
?
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 15
Turing Test: Thử tính thơng minh

Bài
Bài

tốn
tốn

xác
xác

định
định

tính
tính

thơng
thơng

minh
minh

của
của

một
một

đối
đối

tượng

tượng

Turing
Turing

test
test
:
:
Người đối chứng
Người thực hiện test
Ai đây??
Máy/người??
Câu
hỏi
Đối tượng được test
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 16
Turing Test: Ưu – Khuyết

Ưu
Ưu

điểm
điểm


Đem lại quan điểm khách quan về sự thơng minh: Thơng minh hay khơng thể
hiện qua các trả lời của các câu hỏi

Loại trừ các thành kiến: khơng thích cơng nhận tính thơng minh của máy móc.
Sự thơng minh chỉ được đánh giá qua các câu hỏi, khơng bị chi phối bởi các yếu
tố khác.

Tránh tình trạng hiểu lầm

Khuyết
Khuyết

điểm
điểm
:
:

Phép thử tập trung vào các cơng việc biểu diển hồn tồn bằng ký hiệu do đó làm
mất một đặc tính rất quan trọng của máy tính là tính tốn chính xác và hiệu quả

Khơng thử nghiệm được các khả năng tri giác và khéo léo

Giới hạn khả năng thơng minh của máy tính theo khn mẫu con người. Nhưng
con người chưa hẳn là thơng minh hồn hảo.

Khơng có một chỉ số rõ ràng định lượng cho sự thơng minh. Phụ thuộc vào người
tester.
Thơng

Thơng

Minh
Minh
?
?

Còn
Còn

tùy
tùy



Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 17
Lịch sử phát triển của AI : Giai đoạn cổ điển

Giai
Giai

đoạn
đoạn

cổ
cổ

điển
điển
(1950
(1950


1965)
1965)
Đây là giai đoạn của 2 lĩnh vực chính:Game Playing (Trò chơi) và
Theorem Proving (Chứng minh định ký)
Game Playing: dựa trên kỹ thuật State Space Search với
trạng thái (State) là các tình huống của trò chơi. Đáp án
cần tìm là trạng thái thắng hay con đường dẩn tới trạng
thái thắng. áp dụng với các trò chơi loại đối kháng. Ví dụ:
Trò chơi đánh cờ vua.
Có 2 kỹ thuật tìm kiếm cơ bản:

Kỹ thuật generate and test : chỉ tìm được 1 đáp án/ chưa chắc tối ưu.

Kỹ thuật Exhaustive search (vét cạn): Tìm tất cả các nghiệm, chọn lựa

phương án tốt nhất.
(
(
Bùng
Bùng

nổ
nổ

tổ
tổ

hợp
hợp

mn
mn

với
với

m
m
>=10)

>=10)
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 18
Lịch sử phát triển của AI : Giai đoạn cổ điển (tt)
Theorem Proving: dựa trên tập tiên đề cho trước, chương
trình sẽ thực hiện chuỗi các suy diển để đạt tới biểu thức
cần chứng minh.
Nếu có nghĩa là đã chứng minh được. Ngược lại là khơng
chứng minh được.
Ví dụ: Chứng minh các định lý tự động, giải tốn,
Vẫn dựa trên kỹ thuật state space search nhưng khó khăn
hơn do mức độ và quan hệ của các phép suy luận: song
song, đồng thời, bắc cầu,
Có các kết quả khá tốt và vẫn còn phát triển đến ngày nay
(
(
Bùng
Bùng

nổ
nổ

tổ
tổ

hợp
hợp

mn
mn

,
,
m
m
>=10)
>=10)
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 19
Lịch sử phát triển của AI- Giai đoạn viễn vơng

Giai
Giai

đoạn
đoạn

viễn
viễn

vơng
vơng
(1965
(1965


1975)
1975)

Đây là giai đoạn phát triển với tham vọng làm cho máy hiểu
được con người qua ngơn ngữ tự nhiên.

Các cơng trình nghiên cứu tập trung vào việc biểu diển tri
thức và phương thức giao tiếp giữa người & máy bằng ngơn
ngữ tự nhiên.

Kết quả khơng mấy khả quan nhưng cũng tìm ra được các
phương thức biểu diễn tri thức vẫn còn được dùng đến ngày
nay tuy chưa thật tốt như:

Semantic Network (mạng ngữ nghĩa)

Conceptial graph (đồ thị khái niệm)

Frame (khung)

Script (kịch bản)
Vấp
Vấp

phải
phải

trở
trở

ngại
ngại

về
về

năng
năng

lực
lực

của

của

máy
máy

tính
tính
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 20
Lịch sử phát triển của AI- Giai đoạn hiện đại

Giai
Giai

đoạn
đoạn

hiện
hiện

đại
đại

(
(
từ
từ
1975)
1975)

Xác định lại mục tiêu mang tính thực tiễn hơn của AI là:

Tìm ra lời giải tốt nhất trong khoảng thời gian chấp nhận được.

Khơng cầu tồn tìm ra lời giải tối ưu

Tinh thần HEURISTIC ra đời và được áp dụng mạnh mẽ
để khắc phục bùng nổ tổ hợp.

Khẳng định vai trò của tri thức đồng thời xác định 2 trở
ngại lớn là biểu diển tri thức và bùng nổ tổ hợp.

Nêu cao vai trò của Heuristic nhưng cũng khẳng định tính
khó khăn trong đánh giá heuristic.
Better
Better

than
than

nothing

nothing
Phát triển ứng dụng mạnh mẽ: Hệ chun
gia, Hệ chuẩn đốn,
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 21
Các lĩnh vực ứng dụng

Game
Game

Playing
Playing
:
:

Tìm
Tìm

kiếm
kiếm
/
/
Heuristic
Heuristic


Automatic
Automatic

reasoning
reasoning
&
&
Theorem
Theorem

proving
proving
:
:

Tìm
Tìm

kiếm
kiếm
/
/
Heuristic
Heuristic


Expert
Expert

System
System
:
:


hướng
hướng

phát
phát

triển
triển

mạnh
mạnh

mẽ
mẽ

nhất
nhất



giá
giá

trị
trị

ứng
ứng

dụng
dụng

cao
cao

nhất
nhất
.
.

Planning
Planning
&
&
Robotic
Robotic
:
:
các
các

hệ
hệ

thống

thống

dự
dự

báo
báo
,
,
tự
tự

động
động

hóa
hóa

Machine
Machine

learning
learning
:
:

Trang
Trang

bị
bị

khả
khả

năng
năng

học
học

tập
tập

để
để

giải
giải

quyết
quyết

vấn
vấn

đề
đề

kho
kho

tri
tri

thức
thức
:
:

Supervised : Kiểm sốt được tri thức học được. Khơng tìm
ra cái mới.

UnSupervised:Tự học, khơng kiểm sốt. Có thể tạo ra tri
thức mới nhưng cũng nguy hiểm vì có thể học những điều
khơng mong muốn.
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 22
Các lĩnh vực ứng dụng (tt)

Natural
Natural

Language
Language

Understanding
Understanding
&
&
Semantic
Semantic

modelling
modelling
:
:

Khơng
Khơng

được
được

phát
phát

triển
triển

mạnh
mạnh

do
do

mức
mức

độ
độ

phức
phức

tạp
tạp

của
của

bài
bài

tốn
tốn

cả
cả

về
về

tri
tri

thức
thức
&
&
khả
khả

năng
năng

suy
suy

luận
luận
.
.

Modeling
Modeling

Human
Human

perfromance
perfromance
:
:

Nghiên
Nghiên

cứu
cứu


chế
chế

tổ
tổ

chức
chức

trí
trí

tuệ
tuệ

của
của

con
con

người
người

để
để

áp

áp

dụng
dụng

cho
cho

máy
máy
.
.

Language
Language

and
and

Environment
Environment

for
for

AI
AI
:
:
Phát
Phát

triển
triển

cơng
cơng

cụ
cụ


mơi
mơi

trường
trường

để
để

xây
xây

dựng
dựng

các
các

ứng
ứng

dụng
dụng

AI
AI

.
.

Neurol
Neurol

network
network
/
/
Parallel
Parallel

Distributed
Distributed

processing
processing
:
:

giải
giải

quyết

quyết

vấn
vấn

đề
đề

năng
năng

lực
lực

tính
tính

tốn
tốn


tốc
tốc

độ
độ

tính
tính

tốn
tốn

bằng
bằng

kỹ
kỹ

thuật
thuật

song

song

song
song



phỏng
phỏng

mạng
mạng

thần
thần

kinh
kinh

của
của

con
con

người
người
.
.
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 23
Mơ hình phát triển ứng dụng AI


hình
hình

ứng
ứng

dụng
dụng

Ai
Ai

hiện
hiện

tại
tại
:
:
AI
AI
=
=
Presentation
Presentation
&
&
Search
Search
Tri Thức
Knowledge

Engineering
Tìm kiếm
Search
Suy luận
Heurictic
Đại Học Bách Khoa – Tp.HCM – Bản quyền

Khoa Công Nghệ Thông Tin Tháng 6/2001
ThS Nguyễn Cao Trí – [email protected]
KS Lê Thành Sách – [email protected]
Chương
Chương
2:
2:
PHÉP
PHÉP

TỐN
TỐN

VỊ
VỊ

TỪ
TỪ

Phép tốn vị từ dưới góc nhìn của AI


Mệnh đề

Vị từ
Đại Học Bách Khoa Tp.HCM – 2001
Bản quyền

Khoa Công Nghệ Thông Tin
Bài giảng “Trí tuệ nhân tạo” – Slide 25
AI
AI
&
&
Phép
Phép

tốn
tốn

vị
vị

từ
từ

Tại
Tại

sao
sao

Ai
Ai

phải
phải

nghiên
nghiên

cứu
cứu

phép
phép

tốn
tốn

vị
vị

từ
từ
?
?

AI  Phát triển các chương trình có khả năng suy luận

Suy luận giúp chương trình AI biết được tính đúng/sai của
một vấn đề nào đó.

Phép
Phép

tốn
tốn

vị
vị

từ
từ


cung
cung

cấp
cấp

một
một

khả
khả

năng
năng

triển
triển

khai
khai

các
các

q
q

trình
trình

suy
suy

diễn
diễn

trên
trên

máy
máy

tính
tính

Phát
Phát

triển
triển

chương
chương

trình
trình

AI
AI

cần
cần

phép
phép

tốn
tốn

vị
vị

từ
từ
.
.

Phép
Phép

tốn
tốn

vị
vị

từ
từ

được
được

hiện
hiện

thực
thực

bằng
bằng

ngơn
ngơn

ngữ
ngữ

lập
lập

trình
trình

trên
trên

máy
máy

tính
tính

PROLOG
PROLOG
Bài giảng “ Trí tuệ nhân tạo ” – Slide 2N ội dung mơn học – Giới thiệuChươngChương1 : 1 : GiớiGiớithiệuthiệuNgành Trí tuệ nhân tạo là gì ? Mục tiêu nghiên cứu và điều tra của ngành Trí tuệ nhân tạoLịch sử hình thành và hiện trạngTuring TestChươngChương2 : 2 : LogicLogicvịvịtừtừMệnh đề và logic vị từLogic vị từ dưới góc nhìn của AIĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 3N ội dung mơn học – Các kỹ thuật tìm kiếmChươngChương3 : 3 : TìmTìmkiếmkiếmtrêntrênkhơngkhơnggiangiantrạngtrạngtháithái ( State Space Search ) AI : Biểu diễn và tìm kiếmCác giải thuật tìm kiếm trên khơng gian trạng tháiDepth first search ( DFS ) – Breath first search ( BFS ) ChươngChương4 : 4 : TìmTìmkiếmkiếmtheotheoHeuristicHeuristicHeuristic là gì ? Tìm kiếm theo heuristicCác giải thuật Best first search ( BFS ), Giải thuật A * Chiến lược Minimax, Alpha BetaĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 4N ội dung mơn học – Kỹ thuật tăng trưởng ứng dụngChươngChương5 : 5 : HệHệluậtluậtsinhsinhTìm kiếm đệ quiHệ luật sinh : Định nghĩa và ứng dụngTìm kiếm trên hệ luật sinhChươngChương6 : 6 : HệHệchunchungiagiaGiới thiệu về hệ chun giaMơ hình hệ chun gia : dự trên luật, dựa trên framePhát triển một hệ chun giaChươngChương7 : 7 : BiểuBiểudiểndiểntritrithứcthứcBiểu diển tri thức trong AI : vai trò và ứng dụngCác kỹ thuật biểu diển tri thức : semantic network, lưu đồ phụthuộc khái niệm, frame, scriptĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 5T hực hành và Tài liệu tham khảoThựcThựchànhhànhPrologPrologvàvàCLISPCLISPProlog : Các giải thuật tìm kiếmCLISP : Biểu diển tri thứcBài tập lớnTàiTàiliệuliệuthamthamkhảokhảoBài giảng “ Trí tuệ nhân tạo ” – ThS Nguyễn Cao Trí – KS Lê Thành SáchArtificial Inteligent – George F. Luget và Cilliam A. StubblefiedGiáo trình “ Trí tuệ nhân tạo ” – KS Nguyễn Đức CườngTrí tuệ nhận tạo – Nguyễn Quang Tuấn – Hà nộiĐại Học Bách Khoa – Tp. TP HCM – Bản quyềnKhoa Công Nghệ Thông Tin Tháng 6/2001 ThS Nguyễn Cao Trí – [email protected] Lê Thành Sách – [email protected] ươngChương1 : 1 : GIỚIGIỚITHIỆUTHIỆUNgành Trí tuệ nhân tạo là gì ? Mục tiêu điều tra và nghiên cứu của ngành Trí tuệ nhân tạoLịch sử hình thành và hiện trạngTuring TestĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 7 Đối tượng nghiên cứu và điều tra của AIĐốiĐốitượngtượngnghiênnghiêncứucứucủacủangànhngànhAIAIAI là ngành nghiên cứu và điều tra về những hành xử thơng minh ( intelligent behaviour ) gồm có : tích lũy, tàng trữ tri thức, suy luận, hoạt động giải trí và kỹ năng và kiến thức. Đối tượng nghiên cứu và điều tra là những “ hành xử thơng minh ” chứkhơng phải là “ sự thơng minh ”. ‘ Khơng có ’ Sự Thơng MinhChỉ cóBiểu hiện thơng minh qua hành xửĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 8S ự Thơng MinhThơngThơngminhminhhayhayHànhHànhxửxửthơngthơngminhminhlàlàgìgìHành xử thơng minh : là những hoạt động giải trí của một đối tượng người dùng nhưlà tác dụng của một q trình tích lũy, giải quyết và xử lý và điều khiểntheo những tri thức đã có hay mới phát sinh ( thường cho kếtquả tốt theo mong đợi so với những hành xử thơng thường ) làbiểu hiện đơn cử, cảm nhận được của “ Sự thơng minh ” Khái niệm về tính thơng minh của một đối tượng người dùng thường biểuhiện qua những hoạt động giải trí : Sự hiểu biết và nhận thức được tri thứcSự lý luận tạo ra tri thức mới dựa trên tri thức đã cóHành động theo tác dụng của những lý luậnKỹ năng ( Skill ) TRITHỨC ? ? ? Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 9T ri thức ( Knowledge ) TriTrithứcthứclàlànhữngnhữngthơngthơngtintinchứachứađựngđựngthànhthànhphầnphầnCác khái niệm : Các khái niệm cơ bản : là những khái niệm mang tính quy ướcCác khái niệm tăng trưởng : Được hình thành từ những khác niệm cơ bản thành cáckhái niệm phức tạp phức tạp hơn. Các giải pháp nhận thức : Các qui luật, những thủ tụcPhương pháp suy diễn, lý luận, TriTrithứcthứclàlàđiềuđiềukiệnkiệntiêntiênquyếtquyếtcủacủacáccáchànhhànhxửxửthơngthơngminhminhhayhay “ Sự “ Sựthơngthơngminh ” minh ” TriTrithứcthứccócóđượcđượcquaquasựsựthuthuthậpthậptritrithứcthứcvàvàsảnsảnsinhsinhtritrithứcthứctrìnhtrìnhthuthuthậpthậpvàvàsảnsảnsinhsinhtritrithứcthứclàlàhaihaitrìnhtrìnhsongsongsongsongvàvànốinốitiếptiếpvớivớinhaunhaukhơngkhơngbaobaogiờgiờchấmchấmdứtdứttrongtrongmộtmộtthựcthựcthểthể “ Thơng “ ThơngMinh ” Minh ” Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 10T ri thức – Thu thập và sản sinhThuThuthậpthậptritrithứcthứcTri thức được tích lũy từ thơng tin, là tác dụng của một qtrình thu nhận tài liệu, giải quyết và xử lý và tàng trữ. Thơng thường qtrình tích lũy tri thức gồm những bước sau : Xác định nghành / khoanh vùng phạm vi tri thức cần quan tâmThu thập dữ liệu tương quan dưới dạng những trường hợp đơn cử. Hệ thống hóa, rút ra những thơng tin tổng qt, đại diện thay mặt cho những trường hợp đã biết – Tổng qt hóa. Xem xét và giữ lại những thơng tin tương quan đến yếu tố cần chăm sóc, ta có cáctri thức về yếu tố đó. SảnSảnsinhsinhtritrithứcthứcTri thức sau khi được tích lũy sẽ được đưa vào mạng tri thứcđã có. Trên cơ sở đó thực thi những link, suy diễn, kiểm chứng đểsản sinh ra những tri thức mới. Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 11T ri thức – Tri thức siêu cấpTríTríthứcthứcsiêusiêucấp ” cấp ” metametaknowledgeknowledgehayhay “ Tri “ TrithứcthứcvềvềTriTrithức ” thức ” Là những tri thức dùng để : Đánh giá tri thức khácĐánh giá hiệu quả của q trình suy diễnKiểm chứng những tri thức mớiPhươngPhươngtiệntiệntruyềntruyềntritrithứcthứcngơnngơnngữngữtựtựnhiênnhiênĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 12H ành xử thơng minh – Kết luậnHànhHànhxửxửthơngthơngminhminhkhơngkhơngđơnđơnthuầnthuầnlàlàcáccáchànhhànhđộngđộngnhưnhưlàlàkếtkếtquảquảcủacủatrìnhtrìnhthuthuthậpthậptritrithứcthứcvàvàsuysuyluậnluậntrêntrêntritrithứcthứcHànhHànhxửxửthơngthơngminhminhcòncònbaobaohàmhàmSự tương tác với mơi trường để nhận những phản hồiSự đảm nhiệm những phản hồi để kiểm soát và điều chỉnh hành vi – SkillSự tiếp đón những phản hồi để hiệu chỉnh và update tri thứcTínhTínhchấtchấtthơngthơngminhminhcủacủamộtmộtđốiđốitượngtượnglàlàsựsựtổngtổnghợphợpcủacủacảcảyếuyếutốtốthuthuthậpthậptritrithứcthứcsuysuyluậnluậnvàvàhànhhànhxửxửcủacủađốiđốitượngtượngtrêntrêntritrithứcthứcthuthuthậpthậpđượcđượcChúngChúnghòahòaquyệnquyệnvàovàonhaunhauthànhthànhmộtmộtthểthểthốngthốngnhấtnhấtSựSựThơngThơngMinh ” Minh ” KhơngKhơngthểthểđánhđánhgiágiáriêngriênglẽlẽbấtbấtkỳkỳmộtmộtkhíakhíacạnhcạnhnàonàođểđểnóinóivềvềtínhtínhthơngthơngminhminh  THƠNG MINH CẦN TRI THỨCĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 13M ục tiêu nghiên cứu và điều tra của ngành AITríTrítuệtuệnhânnhântạotạonhằmnhằmtạotạorara “ Máy “ Máyngười ” người ” MụcMụctiêutiêuXâyXâydựngdựnglýlýthuyếtthuyếtvềvềthơngthơngminhminhđểđểgiảigiảithíchthíchcáccáchoạthoạtđộngđộngthơngthơngminhminhTìmTìmhiểuhiểucơcơchếchếsựsựthơngthơngminhminhcủacủaconconngườingườiCơ chế tàng trữ tri thứcCơ chế khai thác tri thứcXâyXâydựngdựngcơcơchếchếhiệnhiệnthựcthựcsựsựthơngthơngminhminhdụngdụngcáccáchiểuhiểubiếtbiếtnàynàyvàovàocáccácmáymáymócmócphụcphụcvụvụconconngườingườiĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 14M ục tiêu của AI ( tt ) CụCụthểthểKỹ thuật : thiết kế xây dựng những máy móc có tính thơng minh nhằm mục đích đápứng tốt hơn nhu yếu của con người. Khoa học : thiết kế xây dựng và tăng trưởng những khái niệm, thuật ngữ, chiêu thức để hiểu được những hành xử thơng minh của sinhvật. Đối tượng thường được chú trọng tăng trưởng là máy tínhSựSựcầncầnthiếtthiếtcủacủangànhngànhAIAI ? ? ? ? ? ? ? ? ? ? LàmLàmsaosaobiếtbiếtmáymáycócóthơngthơngminhminhĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 15T uring Test : Thử tính thơng minhBàiBàitốntốnxácxácđịnhđịnhtínhtínhthơngthơngminhminhcủacủamộtmộtđốiđốitượngtượngTuringTuringtesttestNgười đối chứngNgười thực thi testAi đây ? ? Máy / người ? ? CâuhỏiĐối tượng được testĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 16T uring Test : Ưu – KhuyếtƯuƯuđiểmđiểmĐem lại quan điểm khách quan về sự thơng minh : Thơng minh hay khơng thểhiện qua những vấn đáp của những câu hỏiLoại trừ những thành kiến : khơng thích cơng nhận tính thơng minh của máy móc. Sự thơng minh chỉ được nhìn nhận qua những thắc mắc, khơng bị chi phối bởi những yếutố khác. Tránh thực trạng hiểu lầmKhuyếtKhuyếtđiểmđiểmPhép thử tập trung chuyên sâu vào những cơng việc biểu diển hồn tồn bằng ký hiệu do đó làmmất một đặc tính rất quan trọng của máy tính là tính tốn đúng mực và hiệu quảKhơng thử nghiệm được những năng lực tri giác và khéo léoGiới hạn năng lực thơng minh của máy tính theo khn mẫu con người. Nhưngcon người chưa hẳn là thơng minh hồn hảo. Khơng có một chỉ số rõ ràng định lượng cho sự thơng minh. Phụ thuộc vào ngườitester. ThơngThơngMinhMinhCònCòntùytùyĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 17L ịch sử tăng trưởng của AI : Giai đoạn cổ điểnGiaiGiaiđoạnđoạncổcổđiểnđiển ( 1950 ( 19501965 ) 1965 ) Đây là quá trình của 2 nghành chính : Game Playing ( Trò chơi ) vàTheorem Proving ( Chứng minh định ký ) Game Playing : dựa trên kỹ thuật State Space Search vớitrạng thái ( State ) là những trường hợp của game show. Đáp áncần tìm là trạng thái thắng hay con đường dẩn tới trạngthái thắng. vận dụng với những game show loại đối kháng. Ví dụ : Trò chơi đánh cờ vua. Có 2 kỹ thuật tìm kiếm cơ bản : Kỹ thuật generate and test : chỉ tìm được 1 đáp án / chưa chắc tối ưu. Kỹ thuật Exhaustive search ( vét cạn ) : Tìm tổng thể những nghiệm, chọn lựaphương án tốt nhất. BùngBùngnổnổtổtổhợphợpmnmnvớivới > = 10 ) > = 10 ) Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 18L ịch sử tăng trưởng của AI : Giai đoạn cổ xưa ( tt ) Theorem Proving : dựa trên tập tiên đề cho trước, chươngtrình sẽ triển khai chuỗi những suy diển để đạt tới biểu thứccần chứng tỏ. Nếu có nghĩa là đã chứng tỏ được. Ngược lại là khơngchứng minh được. Ví dụ : Chứng minh những định lý tự động hóa, giải tốn, Vẫn dựa trên kỹ thuật state space search nhưng khó khănhơn do mức độ và quan hệ của những phép suy luận : songsong, đồng thời, bắc cầu, Có những tác dụng khá tốt và vẫn còn tăng trưởng đến ngày nayBùngBùngnổnổtổtổhợphợpmnmn > = 10 ) > = 10 ) Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 19L ịch sử tăng trưởng của AI – Giai đoạn viễn vơngGiaiGiaiđoạnđoạnviễnviễnvơngvơng ( 1965 ( 19651975 ) 1975 ) Đây là quy trình tiến độ tăng trưởng với tham vọng làm cho máy hiểuđược con người qua ngơn ngữ tự nhiên. Các cơng trình điều tra và nghiên cứu tập trung chuyên sâu vào việc biểu diển trithức và phương pháp tiếp xúc giữa người và máy bằng ngơnngữ tự nhiên. Kết quả khơng mấy khả quan nhưng cũng tìm ra được cácphương thức màn biểu diễn tri thức vẫn còn được dùng đến ngàynay tuy chưa thật tốt như : Semantic Network ( mạng ngữ nghĩa ) Conceptial graph ( đồ thị khái niệm ) Frame ( khung ) Script ( ngữ cảnh ) VấpVấpphảiphảitrởtrởngạingạivềvềnăngnănglựclựccủacủamáymáytínhtínhĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 20L ịch sử tăng trưởng của AI – Giai đoạn hiện đạiGiaiGiaiđoạnđoạnhiệnhiệnđạiđạitừtừ1975 ) 1975 ) Xác định lại tiềm năng mang tính thực tiễn hơn của AI là : Tìm ra giải thuật tốt nhất trong khoảng chừng thời hạn gật đầu được. Khơng cầu tồn tìm ra giải thuật tối ưuTinh thần HEURISTIC sinh ra và được vận dụng mạnh mẽđể khắc phục bùng nổ tổng hợp. Khẳng định vai trò của tri thức đồng thời xác lập 2 trởngại lớn là biểu diển tri thức và bùng nổ tổng hợp. Nêu cao vai trò của Heuristic nhưng cũng khẳng định chắc chắn tínhkhó khăn trong nhìn nhận heuristic. BetterBetterthanthannothingnothingPhát triển ứng dụng can đảm và mạnh mẽ : Hệ chungia, Hệ chuẩn đốn, Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 21C ác nghành nghề dịch vụ ứng dụngGameGamePlayingPlayingTìmTìmkiếmkiếmHeuristicHeuristicAutomaticAutomaticreasoningreasoningTheoremTheoremprovingprovingTìmTìmkiếmkiếmHeuristicHeuristicExpertExpertSystemSystemlàlàhướnghướngphátpháttriểntriểnmạnhmạnhmẽmẽnhấtnhấtvàvàcócógiágiátrịtrịứngứngdụngdụngcaocaonhấtnhấtPlanningPlanningRoboticRoboticcáccáchệhệthốngthốngdựdựbáobáotựtựđộngđộnghóahóaMachineMachinelearninglearningTrangTrangbịbịkhảkhảnăngnănghọchọctậptậpđểđểgiảigiảiquyếtquyếtvấnvấnđềđềkhokhotritrithứcthứcSupervised : Kiểm sốt được tri thức học được. Khơng tìmra cái mới. UnSupervised : Tự học, khơng kiểm sốt. Có thể tạo ra trithức mới nhưng cũng nguy hại vì hoàn toàn có thể học những điềukhơng mong ước. Đại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 22C ác nghành nghề dịch vụ ứng dụng ( tt ) NaturalNaturalLanguageLanguageUnderstandingUnderstandingSemanticSemanticmodellingmodellingKhơngKhơngđượcđượcphátpháttriểntriểnmạnhmạnhdodomứcmứcđộđộphứcphứctạptạpcủacủabàibàitốntốncảcảvềvềtritrithứcthứckhảkhảnăngnăngsuysuyluậnluậnModelingModelingHumanHumanperfromanceperfromanceNghiênNghiêncứucứucơcơchếchếtổtổchứcchứctrítrítuệtuệcủacủaconconngườingườiđểđểápápdụngdụngchochomáymáyLanguageLanguageandandEnvironmentEnvironmentforforAIAIPhátPháttriểntriểncơngcơngcụcụvàvàmơimơitrườngtrườngđểđểxâyxâydựngdựngcáccácứngứngdụngdụngAIAINeurolNeurolnetworknetworkParallelParallelDistributedDistributedprocessingprocessinggiảigiảiquyếtquyếtvấnvấnđềđềnăngnănglựclựctínhtínhtốntốnvàvàtốctốcđộđộtínhtínhtốntốnbằngbằngkỹkỹthuậtthuậtsongsongsongsongvàvàmơmơphỏngphỏngmạngmạngthầnthầnkinhkinhcủacủaconconngườingườiĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 23M ơ hình tăng trưởng ứng dụng AIMơMơhìnhhìnhứngứngdụngdụngAiAihiệnhiệntạitạiAIAIPresentationPresentationSearchSearchTri ThứcKnowledgeEngineeringTìm kiếmSearchSuy luậnHeuricticĐại Học Bách Khoa – Tp. Hồ Chí Minh – Bản quyềnKhoa Công Nghệ Thông Tin Tháng 6/2001 ThS Nguyễn Cao Trí – [email protected] Lê Thành Sách – [email protected] ươngChương2 : 2 : PHÉPPHÉPTỐNTỐNVỊVỊTỪTỪPhép tốn vị từ dưới góc nhìn của AIMệnh đềVị từĐại Học Bách Khoa Tp. HCM – 2001B ản quyềnKhoa Công Nghệ Thông TinBài giảng “ Trí tuệ nhân tạo ” – Slide 25AIAIP hépPhéptốntốnvịvịtừtừTạiTạisaosaoAiAiphảiphảinghiênnghiêncứucứuphépphéptốntốnvịvịtừtừAI  Phát triển những chương trình có năng lực suy luậnSuy luận giúp chương trình AI biết được tính đúng / sai củamột yếu tố nào đó. PhépPhéptốntốnvịvịtừtừcungcungcấpcấpmộtmộtkhảkhảnăngnăngtriểntriểnkhaikhaicáccáctrìnhtrìnhsuysuydiễndiễntrêntrênmáymáytínhtínhPhátPháttriểntriểnchươngchươngtrìnhtrìnhAIAIcầncầnphépphéptốntốnvịvịtừtừPhépPhéptốntốnvịvịtừtừđượcđượchiệnhiệnthựcthựcbằngbằngngơnngơnngữngữlậplậptrìnhtrìnhtrêntrênmáymáytínhtínhPROLOGPROLOG

Các bài viết liên quan

Viết một bình luận