, (, ) , . , () , .
, . - , .
, X Y, .
- , . 3.1 , .
, . г , , , - .
, ( ). , , . , A.
, , .
.
3.1.
| : - 30´30 | : ( 32 ) |
| : 900 (900 = 30´30) | : 900 33 , . , |
, , , . ' .
1. () .
2. ϳ () .
:
- ( , );
- ' ;
- .
, , ' , .
, , .
, , . . , , , . , .
|
|
|
, , :
- , , ; , ;
- , ;
- , .
' . ', , .
, . ( ) , .
1. ?
2. ?
3. .
4. .
㳿, , , : ' (. 4.1 ); (. 4.1 ); ( ') (. 4.1 ).
' , , . . .
. 4.1.
' . . - ' . Q , . ( ), . , , . () . ' q (q + +1) .
, .
1. . ' . , (), : () (). ' . ', , - - . ' , - - . .
|
|
|
2. '. , 1- , 1- .. Q -o, (. 4.2). , - 
- ; ' 
- 
- .
. 4.2. ()
, (. 4.2).
3. '. , .
' 4.3 - .
³ . . .
. 4.3. -
. , : ( ) ( ).
. .
, , . .
. , ' , . , , .
. , , . , .
:
- ;
- ' ;
- ( , , , .) .
. , .
, , - , . .
: (, ..), , , , .., .
|
|
|
X 
Y, X Y. ³ (()( )). ( ) .
.
X (, . .), Y , .
X ', Y , , .
, . , .
X Y .
, .
( X Y) , :
- ;
- , .
. , . , .
³, :
. - - {Xk, Yk}, k=1...N , , Xk Yk.
, , , .
Lw ( ):
(4.1)
: n , m ,
N .
, . , :
(4.2)
³ , , :
(4.3)
, : , , . , .
³, .
. - , , .
|
|
|
, .
, ', , , ( ' ).
, , .
1. ?
2. ?
3. ϳ ?
4. ?
5. .
6. .
, , . . , : ? , , : .
' , ' . ' , '. (. 5.1).
䳺 . , ( ).
, , . () , . (1, 0, 0,...), 1 , 0 .
. 5.1.
, 33 .
, .
( ) ' . .
, ' , ( ) . , , , . , (, ) . , , .
, , , . , , . , , , . , ( ) .
.
Y X, Y = G(X). , G .
Y =F(X), - (X1, 1), (X2, 2),..., (XN, YN), k = F(Xk) (k = 1, 2,..., N).
() G, F (. 5.1).
(Xk, k) ( k=1,2,..., N) , , , , , .
() :
|
|
|
- ;
- ;
- ;
- .
: 䳺 ( ); 䳺; 䳺; , 䳺 .
: , , -, - .
: , , - ( ).
' , ( ).
5.1. . (back propagation). 䳺 , .
. , , , (q+1). ( ) ; . . .
, , , , - , . 䳺 , , . .
. -䳺 . 䳺 (), . , . , 䳺 , 䳿 . , , , ( ).
.
1. .
2. (X, Y); X .
3. .
4. , (, Y) ().
5. , .
6. 2- 5- , .
2 3 , .
. 3 . 5 .
2 3 , . 4 5 , .
, ( (. 5.2).
, (output) = f(net) .
. 5.2.
, :
x1 = (x11, x21, , xn1)T, y1,
x2 = (x12, x22, , xn2)T, y2,
..
XN = (x1N, x2N, , xnN)T, yN.
: k () .
k - (k - ) , :
(5.1)
³, :
(5.2)
, Ek, E w. w, E. 䳺 , :
(5.3)
: : = ,
-䳺,
.
, :
(5.4)
() :
(5.5)
:
(5.6)
, .
1. (0< 
<1), max 
.
2. k=1 =0.
3. (xk, k ).
x:= xk, := k
:
(5.7)
4. () :
(5.8)
5. () :
(5.9)
6. k < N, k:= k+1 3, 7.
7. . <max, . 
Emax, 2.
, , (L) (. 5.3).
, ' . :
(5.10)
: W ,
.
. 5.2.
(5.11)
: wi , ' i - , i=1,2,,L.
䳺 :
(5.12)
(5.13)
: =const (0 < < 1), i=1,2,,L.
, :
(5.14)
:
(5.15)
:
(5.16)
:
(5.17)
, :
(5.18)
:
(5.19)
( ):
(5.20)
:
1. (0< 
<1), max 
.
2. k =1 =0.
3. (xk, k). :
(5.21)
:
(5.22)
: W , k :
(5.23)
wi , ' i - , i=1,2,...,L.
4. :
(5.24)
:
(5.25)
5. :
(5.26)
6. () :
(5.27)
k<N, k:=k+1 3, 8.
7. . <max, . max, 2.
.
, , , . . 
, -.
.
䳺 . , , , . ( ) - . , ( ).
, ( ) .
, , . , , , , .
( ) (), , , . ; , .
, ( ). , , , () , .
, 䳺 , . , . , 䳺 , 䳿 . , , , , ( ).
: ( ), , ( ), ( , ; , , ).
, ' , ..
5.2. . , , , , .
, , . , , .
, . , .
( ) , .
: 
, (, , ), . , () . , , , . , , , , .
. , , . , .
? , , .
³ , -, . , , .
( , , , ). , , , , . , , . . , , . , , , , , , , .
, , , , ( ) . . , , , .
. .
, ' , .
1. :
- ;
- .
2. :
- ;
- ;
- .
3. :
- ;
- .
5.3. . , . , , . , . , , . , , , : , , , . , , 䳿. , , .
, . , , . , , , ', , .
, , , . , 㳿 , .
:
(5.28)
: 
j -o (q-1),
-o q;
wij , ,
.
, , q . ' .
:
1. 䳿 .
2. , (feedforward), , () , .
3. .
5. 2, .
6. , , , .
' .
, , 䳿 . , , . . , , , .
(Kohonen) . , , 5.3.
( , : ||w||=1, =1,2,...,m) :
(5.29)
. 5.3.
r -, wr, () x.
( , 
):
(5.30)
wr :
(5.31)
(. 5.4).
||w||=1 x w, - , x ( . 5.4 w2).
ϳ - ( ), , ||x-wr||2. 䳺 :
(5.32)
: - , .
. 5.4.
:
(5.33)
:
(5.34)
C , .
( ) .
1. wi.
2. ; x.
3. -, :
(5.35)
4. :
(5.36)
5. :
(5.37)
6. ( , , ); ( 2), 7.
7. ʳ .
, - :
(5.38)
() ( ) (. 5.5).
. 5.5. -
, ( ) , ( ) (. 5.6).
, , , ( . 5.6 3).
, , () .
³, ; , .
⳻ , .
. 5.6.
1. .
2. .
3. .
4. .
5. .
 |
ϳ , , (. 6.1).
. 6.1.
, , , , .
, - , . , , , ' . , , .
, .
6.1. . ³, ( ) . , , 䳺 .
, (, , ..). , .
( ). , ' .
, ' . , , .
, . , , .. , . ( ), , - .
6.2. . , .
, ( ) . , (, ), .
(), . . , .
6.3. . , , , .
, 1 .
, 300 . . , , , 4 . : 4 , , () , 4 , ' .
, ' . 299 , , 4 , , . , ( ) (' ).
, , .
1. .
2. ? ?
3. ? ?
4. ? ?
, ( ) '. , . , , . 1943 . ϳ x ϳ , , (. 7.1.). 
.
 |
. 7.1.
, , . ֳ ( ) .
60- . , . ӳ , . , . ̳ , , , . , , . ³ , - , .
(. 7.2), .
, , , :
(7.1)
, W, Wij - ' j-o .
, , , :
