Various Aspects of Artificial and Biological Neural Networks 1994 3841

! " !# !! $ " % "$ & ' ( & $ ) $ $ " * !$ $ + ( , - . . /

+ 0 1 23 4 25 6 7 8 1 9

: ) $ $ ! $ " * + ) ; $ $ + < = !+ > + $ : ) ? ! @ ) !+ $ " A B ) : ) ) !C; = = D = + , !C; = = E . . F G , H !

: D < I H A & J K A : A L ; A J @ A M C; N HN D L HN A > : H O J P J < A > -../

!

" #

#

!

$ !

!

! #

! %! ! !

! !

! & # !

&

!

'

#

! #

'

!

(

)

! ! # !

! ! !

!

# ' (

& & !

! !

& % % ! !

!

!

# ! ! ! # !

!

! # ! # !

! #

! ! ! ! ! # # !

!

! ! ! !

! $

! !

! &

# % ! #

!

! ! ! ! ! ! !

! ! %!

! ! ! ! ! ! %

!

! # # ! ! !

! %

! !

! ! ! # ! # # ! ! ! & !

! ! %! % !

# ) !

% ! %!

! # $ $ ! ! % ! ! ! $

! #

! # ! ! ! ! ! !

!

# ! ! %! ! ! ! # ! & ! ! !

$ ! # # %

! ! ! !

! $

! ! # # ! !

! " # $ % & " ' ( % & ) * + , - $ . & / & $& + 0 ' (1 + $ +

2

2 3 & ' $ 4 5 & 6 " (& , ' - $ . & / & $ & +

7

8 8 8 8 < 8 > 8 @ 8 A 8 : 8 C

!

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 :

! % !

!

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 ;

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 =

? 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <

! !

B #

!

!

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 @

!

!

#

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 :

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 8

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 8@

D E . F $ & ! % & " ' ( % & ) * + , - $. & / & $& + 0 ' (1 + $+ < < 8 < < < >

!

2G

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 8;

! ! ! !

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <=

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <<

< @ B < A < :

!

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <@

! $

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <:

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 <;

!

$F ($ 4 ' 5 1

! " # $ E & (' $ + $ / # 5 ' + $# % & " ' ( % & ) * +

- 5 & 1 , E & (' $ + $ / # 5 ' + $# % & " ' ( % & ) * +

@ @ 8 @ <

!

@ < < @ < > @ @ @ A @ : @ C @ ;

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 >C

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 @8

'

@ < 8

@ >

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 >:

!

@ <

7

! ! !

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 @8

( !

! # ! !

! !

&

9 9 9 9 9 9 9 9 9 9 9 9 9 9 @>

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 @A

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 @C

!

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 A=

! # ! $

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 A<

& ! ! # !

! !

$

9 9 9 9 9 9 9 9 9 9 9 9 9 A@

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 AA

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 :8

! $

9 9 9 9 9 9 9 9 9 9 9 9 @<

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 :A 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 :C

=

% & ) * , & # $ ' 1 ' ! $ 5 $ F $ 1

A A 8 A < A >

$

$F ($ 4 ' 5 1

G

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 C@

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 C:

A > 8

" (' $ +

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 C>

!

A >

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 C=

'

# ! # !

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 C:

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 ;=

9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 ;A

% % ! # ! %

; %

& ! # ! !

! $ #

# ! % % ! ) ! # $

% ! &

#

@

! # B B

# A % # ! % !

! %

% %

! ! !

9

! !

9

<

! ! ) # ! ! # ! ! ! #

! # !

! # ! # # % !

)

% ! # %

! ! ! % ! $ % #

! ! !

98

9<

9>

! !

9

% ! ! ) & #

8 !

"

!

!

!

$

!

! # # !

! % #

# #

#

#

#

! B & # % &

( )

( '

* +

*

, &

9@

+

#

$

>

!

$ ) ! !

#

!

!

$

# ! # #

! )

! !

! ! # ! !

# &

! !

! ) #

!

! ! ! ! # )

!

# ! % !

< #

#

# ! !

# !

! % ! ! # #

! & ! ! $

! # &

! ! $ # )

! $

$ !

" !

#

! # ! #

# ) # ! !

!

! #

# )

@

!

# # ) !

#

! ! )

# !

#

! !

C !

# # ! ! )

# !

! % ! % $

% ! ! # %

! ! $

!

!

! ! % !

%# ! !

!

!

! !

! ! ! ! ! ! $

8

& !

$ !

%

! ! #

!

! # # !

% !

# ! ! !

& # !

$ ! !

A

! # ! # !

% ! #

<

# ! # ! ! !

! # %

! ! ! !

! ! # !

#

$ ! ! ! & !

! & # % ! ! !

#

B

# ( )#

05 1

8

2

; ; 8 <

5

% ! % %

! & # ! !

8 % !

! !

! ! # !

#

!

!

! !

8

B

$

! ! !

!

<

#

!

C

! ! # ! !! ! # ! # #

& !

! !

# ! ! ! !

>

9

! ! # ! #

A :

) & > A !

A

>

! % ! # & ! ! $ # ! ! !

! &

! ! &

!

!

$ ! # ! & ! )

$ # !

!

! # # !

!

>

@

!

&

! & !

!

!

# ! !

! #

= = @

!

! ! ! #

$ ! ! !

@

= = :

! $ !

5 3 18

2

5 5

;

3

1

# # # ! %

! ! ) !

8

8 98

!

"

!

# #

#

$

!

! !

#

#

B

!

&

# % &

+

#

$

( )

( '

* +

*

, &

! ! $

> A ! ! !

>

8 9<

A

!

! !

!

* #

*

# " ! ! ! !

@==

!

# # ! % ! !

:===

! % ! !

! # ! ! ! %

#

%

=

!

#

#

* $

*

8==

$ ! #

%

=

8 5 3

%

!

$

#

% ! # ! % ! !

! ! ! !

! ! % ! #

! # ! ! ! # ! !

% !

! !

! !

! !

)

%

%

= 9= =

& ! ! ! $ ! !

! ! ! !

! ! !

=

#

! # ! ! ! !

! ! $

=

! #

! ! ! !

! ! & $

! !

%

$

= 9= = 8 A

8

% ! #

8@

$

! !

1.002 1.000

x x x

xx x x xxx x xx x xxx x x x x x x xx x x x xxx

0.998 0.996

x xx x xx

xxxx x

x xx x x xx

xx x x xx

xxx xx x x x x x xx x x

xx x

0.994

xx x x x x

0.992

xx x xx

x x x

0.990

0.46

0.48

0.5

0.52

0.020 x xx x xx xx xx xxxx xx xx x xx x x xxxxxx xxx xx x xx xxx xx xxx xx

0.015

0.010

0.000

x

xx

x

x

0

8

0.002

x x xx x xxx xx x x xx

xxx xxx x xxx x x xx x xxx

0.005 xx

0.54

0.004

8

ooooo ooo oooo oo o oo oo o oo o

0 o o ooo oooooo oo

-2

o o

o

o

-4

o

o

-6 -6

8 8

%

= 9= = 8 A

-4

-2

o oo oooooo o o

o

0

! ! ! ! ! !

%

! ! % ! # ! ! !

! ! !

# ! # % !

! ' % ! ! #

B

$ !

# !

! !

B

% ! ! !

$ ! !

!

8 5

2

5

<

8 2

! !

# ! ! %

! !

# ! &

#

8 <

% !

! # ! !

>

! % ! #

!

)

%

# $ !

%

%

#

% ! !

& $ !

%

! !

) $

#

! & ! # #

% !

# #

! & #

> 9>

# )

!

#

! !

< 9;

!

%

#

>

! # ! !

&

# ! !

! !

>

! ! !

8=

8

! ! ! #

#

!

! ! $

! !

! #

! # # #

! # ! #

& ! # ! ! # #

= 9:

#

# # !

$ ! ) #

# # !

% ! # #

!! !

# ! $ ! # !

# ! &

# !

% ! =

& $ % ! !

$ # > ;

#

! ! # ! ! ! $

;

$ ! !

#

" ! # % !

! !! !

#

= 9:

%

@

%

%

B

= = = @

= = = @

= = = A

= = ; =

= = :

;8A

8

= = = 8

= = = 8

= = =

= A @ @

= @ C

8;

<

= = = 8 =

= = = 8

= = = 8

= 8 < :

= >

>:<

>

= = = 8 8

= = = 8 @

= = = 8 >

= >8

= = @

>===

@

= = = : A

= = = : @

= = = : <

= < > ;

= < @

C8

A

= = = A

= = = A

= = = @

= < C

= < =

:

= = = >

= = = <

= = = >

= :C

= ;

8AA

C

= = = 8 @

= = = 8 >

= = = 8 <

= < =

= 8 8

8 =

;

= = = = ;

= = = = C

= = = = C

= = : ;

= = @

<;;<

= = = 8

= = = <

= = =

= > > A

= 8 C

88

=

- ' F (&

1 1

5 25

135

23

) ! ! ! !

! !

# ! !

! %

# # !

!

! ) ! #

A

noise=0.2 0.35

0.30

n T

0.25

0.20

0.15

f

0.10 2

4

6

8

m

8 <

%

%

%

= 98

! #

! $ # " #

% ! ! %

<

%

!

= 98

#

# ! !

< #

= 98

%

! ! # ! #

:

! &

! #

! ! ! %& ' ! ! # ! !

! $ !

# #

$

$ ! ! & ! ! % $ !

#

$ !

8 5

2

5

1 5 7 22 25

23

! ! ! !

! !

$ !

! !

! !

>

A 9@

& ! #

>

! ! ! #

!

135

A @

! )

!

=

#

> >

# !

8 9

A 9A

# ! #

=

C

1.0

0.8

0.6

0.4

0.2

0.0 0

8 >

=

=9

0.25

0.5

0.75

1

# ! ! # !

$ !

# A

>

!

! !

# % ! ! !

# #

! !

B

> A

!

!

>

@

! !

=9

;

0.20 0

0

0

R/10

0

0.15

0

0

0

0

T

0

0.10 F 0

0.05

P

0.00 2

8 @

=9

4

%

%

%

6

8

10

%

%

% % ! % !

% !

%

#

: ! #

!

=

= 9A

!

A

! &

!

#

%

=

! !

%

= 9= @

! # $

8=

0.10 T 0.08

0.06 0 0

0

0

R/10

0

F

0.04

0

0 0

0 0

P 0.02

0.00 2

!

8

= @

6

@

%

8

= 9= @

! !

8

= 98 ;

$ !

$

&

#

= =

!

! ! !

= = @

!

! ! #

!

:

10

$ ! !

# ! ! #

= <

8 A

4

=

#

! !!

=

= = @

#

!

& ! #

% ! !

>

8

# ! ! % !

! ! =

# !

! % $ #

! # ! ! ! ! !

%#

>

!

:

# ! !

:

! %

!! ! #

! !

# # # ! !

= 9= @

! # ! # # ! ! #

2 2 5

8 5 3

3

1 7

! # $ !

! #

!

8

# ! ) # %

@

&

88=

!

!

$

) ! !

#

# ! % # ! #

8=

# ! !

$

=

$ ! ! ! ! #

= 8

&

%

%

88

2.0

1.5

1.0 10e

0.5

R

0.0 0

8 :

0.02

0.04 0.06 noise

= 9= A

0.08

%

0.1

8<

0.8 9

0.6

ε

0.4

8 7 9 6

8

5

6 5 4 3

7

4

0.2

5 8

3

5 8 2

5 8 2 1

5 8 2 1

1

5 8 2 1

5 8 2 1

2 1

5 8 2 1

2 1

5 8 2

2

1

1

0.0

R

2.0 1.5 1.0 0.5 0.0 0

8 C

2

4

6

8

10

8>

1 00

1.0 0.8

0 100 1 2 8 8 02 8 1 2

00 1 2 21 80 0 8 1 1 20 8 1 1 8 2 2 8 8 1 0 2 1 8 08 08 2 20 02 2 1 8 1 8 08 2 1 21 01 8 21 2 0 1 0 1 0 2 28 0 1 88 28 230 240

0.6 0.4

0.2 0.0

8 ;

& !

!

%

0

21 2 8 8

0

8 1 2

8 0 1 0 8 28 2 281 0 1 1 0 2

8 0 1 28 0 0 1 2 1 8

8 2

260

8 1 2

1

0 8 1 20 8 1 2

250

0

C

#

# ! !

# ! &

! # !

! ! ! !

;

! !

! ! ! # % ! #

!

8@

# % ! ! ! %

!

!

#

; !

!

8

1 5

23 8 3 3 2 5

& #

% ! % # ! ! ! #

! ! #

#

! $ ! %

#

! $ ! #

! ! ! !

# )

# ! #

! ! ! !

# ! !! !

! & ( ! $ !

%

!

! ! ! # &

%

%

!

&

% !

! !

! ! !

! !

! ! #

! ! !

8A

& ! ! & # ! !

#

! # # ! % !

=

! # ! !

!

! % !

# ! !

' ! ! # # ! # !

# ! &

&

! $

! ! ! # % !

%

! !!

! ! ! ) &

! !

:

! #

! $ ! ! !

= 9= :

= 9= @

! & ! # !

! ! #

! ! $ ! ! ! # !

# ! # !

= = @

! !

= = @

! #

! !

8:

! #

! ! ! ! !

!

# % ! #

$

;

B

!

% ! ! !

! !

! ! ! # # ! $

!

#

!

! )

!

! # ! #

!

!

! ! ! #

! #

!

! ! #

; ; > >

! $

! ! #

# ( )#

! !

$ ! $

& ! $

! % ! ! #

05 1

8

2

5

8;

! # !

! ! & ! # !

%

# ! ! & ! ! ! ! ! ! & !

& ! !

# ! $

#

!

9

! !

9

! ! ) # ! ! # ! ! ! #

! # !

! # ! # # % !

! # ! !

#

8 $

! !

) % ! %

#

8

% !

< # ! ! # !

B

!

! $

C & ! #

! # # ! ! ! $ !

<=

# $ #

! ! #

!

! & !

! ! # ! !

!

#

# # ! ! ! !

#

#

!

# ! % ! ! #

B

5

18

2

5

1 2 1 5

1

! # ! % ! !

! #

! ) #

! !

!

8 98

! !

=

9

8 9<

% ! ! ) & #

8 !

"

8 9>

<

!

! !

# #

#

$

!

#

#

! B

& #

% &

+

#

$

( )

( '

* +

*

8 9@

, &

8 !

) #

* #

*

88=

&

!

&

% &

9

8 9A

&

8 !

!

! !

!

8

* $

*

<@

:===

! % ! !

!

$ !

#

3

5

1 5

1

( ! ! #

9

< 9:

<8

! ! ! %

# ! ! ! ! ! #

! ! !

#

! !%

# ! !

# #

!

$ !

$

B

< 9C

! ! #

! !

!

! ! # #

!

!

! # & #

< 9;

! ) ! !

8

"

9

< 9 =

$ !

)

$

< =

< 9

! !

< 9 8

! ! #

<<

" %

! # # !

< 9 <

< 9 >

! ! ! ! !

!

8

1 2

#

138

3

& $

8 @

! # !

==

8

& $

# ! % ! %

( ) #

;;8

! ! # !

#

! !

! ! !

#

#

! !

#

#

%

%

8

8 C

8 @

!%

# !

= 9= @ ;

%

= 9= A

! # ! !

! !

< A !

#

< >

#

!

%

%

! ! # !

=

#

%

<>

%

%

%

= = A >

= = @ C :

= = : A

= = A 8 =

8

= = A = =

= = @ C @

= = : 8

= = A A <

<

= = A

= = @ C =

= = : @

= = A 8

>

= = A 8

= = @ ; >

= = A ; C

= = A >

@

= = A A

= = @ C ;

= = A C

= = A = >

- ' F (&

# ! ! # ! ! #

<

# 8

!

%

%

<@

%

%

= = A

= = @ ;

= = : 8

= = A 8

8

= = A =

= = @ ;

= = : 8

= = A @

<

= = A

= = @ C

= = : 8

= = A 8

>

= = A 8

= = A =

= = : =

= = A

@

= = A 8

= = @ ;

= = A C

= = @ ;

- ' F (& 2

5 9

1

1

<

2 2 5 3

!

# ! # ! ! #

! !

! # )

! ! ! # ! #

# # !

! ! !

# ! !

#

# ! ! !

#

<

! ! !

8=

! # #

#

<@

$

$

<

>

%

!

!

8

! !

@

#

%

%

%

%

%

# >

= C

= = ; C

= A8

= =;

= @=

= A

8

= C

= =A

= A>

= 8@

= <

= =

<

= :

= = ; ;

= A>

= 8

=
= = ; ;

>

= A

= = ; ;

= @8

= =:

= >A

= 8=

@

= <

= = ; :

= @;

= 8

= >:

= 8<

- ' F (& D

$

%

%

%

%

%

%

%

= = ; C

= A8

= =:

= @=

= =

8

= C

= =>

= A>

= :

= <

= = C ;

<

= :

= = ; C

= A>

= =C

=
= = C A

>

= :

= = ; C

= @8

= =@

= >A

= =@

@

= <

= = ; A

= @;

= =

= >:

= =;

= C

- ' F (&

<:

5

1

! ! ! ! ! ! ! !

! ! ! # $ ! $ ! ! ! # !

< >

! #

! ! # ! ! $

! ! ! %

9

A 9 @

! ! $ # !

% ! ! # ! #

! ! ! !

! !

! ! !

# ! % ! ! !

! ! ! # ! !

! ! # !

! !

$ ! & #

! #

!

! # #

& ! !

!

%

# @

%

=9

= = A 8

= = ; @

= 9= 8

= = A

= = A C

= = @ C

= = A 8

- ' F (&

!

= = : 8

= = A

= = >

<;

! ! $ ! # #

# # # ! ! #

23 8 3 3 2 5

! ! $

# ! (

;;8

!

! # !

! # !

! $

!

! ! $ ! #

" ! ! ! # % )

! ! !

! ! ! &

! #

! ! ! !

$ ! # ! # ! ! $ ! !

! # ! #

! ! !

! $ !

!

! % ! ! # %

! #

!

# !

>=

! # ! ! # % ! # ! ! !

! !

# #

@

8 (

!

@

(

'

;A>

;;8

;;8 B

%@ C

#

! '

!

! !

;;>

A::@%

%

! !

#

;;>

!

B #

A B

)

A : ::

D

> ( ) #

)

A=

%

# !

< ( ) #

;C;

#

;C:

!

B

!

%

B #

! !

: '

;

<

B

# (

;CA

;;=

$

!

! ! ! ! !

2 < :> %< C @

!

2 8>@

!

;C=

#

!

# %

> :<>;<

'

! % !

' ! B

;;8

= ! )

B

(

8C 8;>

;C;

8

>8

C

;:@

;;=

!

! # ! % !

;< 8=;

! !

! ! &

!

%

:

%!

@

# !

%

# $ $ #

"

! !

# ! $ $ #

# ! ! !

# ! ! ) !

$

!

" $

! ! #

!

!

# #

$ ! ! ! ! ! ! ! ! #

! # & ! !

! #

! ! ! ! ! ! $

! ! !

!

>@

! !

<<

$ ) ! ! < >

!

! ! !

!

8 ! $

' ! #

# !

8 :

8 =

>
!

! !

!

!

! #

! #

>

! ! ' ! ! &

! !

! ! # %

&

!! ! #

# %&

@

!

! %! ! # ! ! ! & !

& ! ! %! % !

# ) !

% ! %!

! # $ $ ! ! %

! ! ! $

!

# ! # ! ! !%

>A

! ! !

!

# ! ! %! ! ! ! # ! & !

A

! $ ! #

) # ! !

! !

! ! #

! $

#

# ( )#

! !

; ;> :

05 1

8

2

5

! !

! ! !

! ! ! %

& ! !

! & !

! # ! ! % & ! ! #

! !

# ! ! ! !

! ! ! !

# ! ! ! !

# ! % !

!

$ # !

! ! !

>C

$ ! ! !

! # $ ! %

#

! ! % !

!

! ! ! ! ! $

! $ # ! ! )

! ! ! ! !

8

!

& !

! ! !

<

!

& ! ! ! ! # !

!

& %&

! ! ! # % % !

%&

!

>

!

@

$ !

% % !

! # ! #

$ !

! ! # ! # ! !

C

$ ! ! !

!

!

:

!

!

; 3 5 1

5

A

8 3 3 3 25

19 5

1 3

! ! !

" !

!

! ! # !

! ! # ! ! ! !!

!

!

>;

! ! # ! ! )

# & !

&

#

#

)

#

& !

< @ #

! !

!

% !

# !

# #

% ! # ! ! %

! ! ! ! ! !

# ! ! ! $

$

! #

) ! # ! % # #

8 9

! !

$

# !

#

! ! !

!

! ! !

!

! ! ! & ! !

! ! ! ! ! ) #

!

! !

! $ #

! !

@=

!

8 98

& ! ! %

# ! # ! ! #

! ! !

! !

! ! ! !

8 8 !

$ ! ! # ! #

! ! ! ! & % % 8 >

& ! A ! ! !

!

8 9<

%& ! ! %

! !

# ! ! ! ) #

! ! ! #

! )

! ! %

! ! # ! %

! ! # % %

% # ! ! ! %

! # ! ! ! ) = :

% ! ! ! ! ! !

! ! ! ! !

8 <

# ! ! ) !

! ! ! $

@

! # ! ) ! !

! ! ) # #

B # %

B

! # #

!

# )

8 9>

! ! # ! !!

! !

999

8 9@

! ! #

! !

!

8 9A

! # !

!

! # $

# !

!

# !

# ! #

! ! #

# ! ! ! ! # !

! ! ! !

+

@8

!

#

=

! ! ! #

! &

& # %

!

# ! ! !

+

= # +

$ !

! ! !

!

! & # # # #

=

! ! & ! !

%

+

+

8

8

! ! &

# ! #

=

!

8

< 9

! ! %

@

=

! ! ! !

! & !

+

< 98

! ! ! # % ! %

!

!

% !

! ! ! # # %

+

=

# & & ' ! < ;

! # %

! # # # # &

999 +

@<

+ !

999

+

$

+ !

!

+

+

999

999

+

$

!

+

+

+

$

+ !

+

999

+ !

9

< 9<

# ' ! % %

+

! #

# C

< :

& !

$

%

# #

+

+

= 9

< 9>

! # ! &

+

+

+

8

+

+

< 9@

=

% = ! #

+

+

=

< 9A

% ! #

+

=

< 9:

# # & #

#

$

! ! !

+

#

! # #

+

< 9C

@>

# ! # # # % !

8

=

+

+

= # < 9;

# % ! & #

&

+

#

! # !

B

#

< 9 =

=

=

# ! # $ ! ! % %

#

! ! %

! ! ! # $ !

!

A

! ! !

!

! !

! ! # )

8

8

! #

! ! !

! &

< 9

!

+

< 9 8

+

+

+

! #

< 9 <

< 9 >

@@

< C

!

%

=

+

+

!

+

< 9 @

=

+

+

< 9 A

+

8

=

=

< 9 :

8 =

!

!

% !

=

< 9 C

=

< 9 ;

=

< 98 =

=

< 98

= ! !

< @ < A ! ! ! !

< ; # %

+

= $

< 98 8

= $

< 98 <

=

! ! ! ) ! ! ! !

=

= $

< 98 >

=

8

@A

$

!

$ ! !

< 98 @

=

% ! ! # !

!

8

8 =

! #

!

# ! !

! # #

# !

# !

!

+

! !

!

%

! #

!

! ! !

! ! ! !

!

% !

# %

! ! ! # ! % $ ! # ! ! # ! +

!

$ # !

$

% %

! ! # % ! %

# ! !

! ! ! &

! ! # ! % !

%

$ ! % !

@:

0.25 1 2

(a)

auto-correlations

0.2

0.15

0.1

0.05

0 -10

-8

-6

-4

-2

0 delay

2

4

6

8

10

-6

-4

-2

0 delay

2

4

6

8

10

0.16 (b)

0.14

cross-correlations

0.12 0.1 0.08 0.06 0.04 0.02 0 -10

@

-8

! )

@C

! ! # # !

! !

! ! #

! ! !

!

$ ! ! ! ! # ! &

! & %

+

< 98 A

19

!

+

< 98 :

1 25 9 1 3

! !

!

+

% ! %

+

! +

+

+

+

+

! ! !

$

+

+

+

+

99

%&

# $

> 9

#

& $ % ! !

& $ %

@;

! ! % ! !

%! ! !

! ! ! !

# !

! !

# !

! ! !

# ! ) !

& $ % ! # #

+

999

> 98

& $

+

999

!

+

% !

%

> 9<

! !

!

! ! ! !

! ! !

# & $ #

B

# # & $

) ! %

# # & $

+

+

+

+

+

$

+

> 9>

!

! ! !

> 9@ !

! ! # # !

! ! & #

1 1 2 5 8 5

2

% %!

! !

+

+

+

A=

> > & $

5 3

%

+

+

@ 9

# !

+

+

#

@ 98

!

# ! % ! &

+

+

+

+

@ 9<

@ 9>

% ! ! &

# #

& !

'

$

! # !

)

%

#

%

!

=

< A

+

+

@ 9@

< < ! ! ! # %

%

#

A

!

+

!

! # !

# %

@ 9A

=

E

! !

! #

$

# #

%

E =

#

# !

@ 9:

$

+

$ ! %

!

!

$ #

8 E = E =

! ! $ $

0

$

#

@ :

@ 9C

E = 0 = 0 =

> @ !

& #

@ 9;

! !

@ C ! # ! !

#

3 E = 3

3 0 = 3

&

@ 9 =

@ ;

@ 9

=

9

@ 9 8

%

A8

%

8

@ 9 <

$ $ ! ! $

$

=

@ C # # % ! #

E #

$

@ 9 >

&

E E

!

0

@ 9 @

=

# % ! $

@ C ! ! & % !

&

@ 9 A

@ 9 :

@ 9 C

!!

@ @

=

=

@ ;

$

@ 9 ;

!

= $

@ 98 =

=

#

! !

# $

=

!

=

=

! #

@ >

@ 98

! !

!

=

@ 98 8

=

$

E

=

$ $

@ 98 <

! !

# # ! ! #

=

!

3 2 2 5

!!

@ 8 <

% !

= = !

;

5

7 31

1 1 2 5

! !

12

! # %

!

! $

#

$ ! ! $

! !

! !

$

!

@ @ !

A<

# $ ! # ! # $ !

!

%

! =

! !

@ :

! !

# ! !

A>

% ! $

! ! ! $

%

!!

!

!

999

&

! # ! $

! $

$ ! #

$

!

6

!

6

! !

$

E

$

E

6

E

9

A 98 >

@ 8 = $

=

=

!

! # ! # )

=

!!

!

@ 8 =

! !

@ 8 = ! ! $

B

$

!

! ! ! # !

E

! ! % !

A 98 @

# " ! ) ! %

# !

! $ ! "

# ! !

! %

! ! ! # $ %

! ! & ! # !

# !

%

# #

!

2

2

5

8

A@

8 2 5 3 5 1 7 28 1 2 5

25

! ! # ! ! #

! # !

!!

! % # ! !

! $ # ! #

# & $ ! !

B

% # ! ! ! ! )

# ! ! 8 8 ! # !

!!

@ = % @ > # ! ! #

!

%

%

! ! # ! ! $ !

$ #

$

$ ! "

=

%

!

!

: 9

=

%# ! ! %

# !

E

#

%

! # !

%

=

%

%

! ! %

@ <

!!

! # ! $ # !

!

%

! ! $

$

%

!

: : 8 #

# ! ! # %! ! ! # & !

: 98

=

%

# ! ! # $

AA

E

# % % #

&

! ! &

! ! # ! # &

# ! & ! #

! # ! &

! %

# !

=

! ! $

# !

# !

# ! ;

# & % ) !

% # ! %! !

<@

$ !

# ! !

E =

= 9

%

$ ! # ! !

: 9<

# ! !

E =

1 3 2 1 5

%

5 5

= 9

2

: 9>

5 3

! ! !

! ! #

! !

! & ! $ # )

! !

!

! & ! ! !

#

! ! #

A:

&

!

9

C 9

$ ! ! ! # ! %

! ! # ! ! & !

+

#

+

% & %

&

# !

!

> !

> 8

#

#

@ @

# !

! ! !

! ! ! !

# !

# %

! # ! ! ! #

! # # ! %

# ! ! ! ! # ! $ %

#

8

=

=

!

! !

&

=

$

=

+

!

+

9

=

=

C 9<

=

C

C 9>

% % #

!

C 98

C # !

=

! ! !

=

@ C ! #

! ! &

AC

# !

@ C

C < &

=

8

=

=

C 9@

C 9A

% %

#

# !

@ @

&

= 9

C 9:

=

$

$

C 9C

=

=

8

$

$

8

$

=

# =

=

C 9 =

=

!

! ! ! ! $

C 9;

=

$

8

$

$

!

$ # ! #

$

# $ #

! #

$

$ !

! ! ! ! ! #

! ! $ # ! !

! ! $

! ! %

%

=

A;

% % $ # #

C 9

# !

! ! # #

%) ! ! #

# #

)

! ! ! +

+

%

#

! ! ! # !

#

6 & # $ # ' ((1 # & # & ! ' $

!

=

=

=

=

=

$+ # & # & ! ' $

!

=

=

=

=

=

C 9 8

$! $ & # $ ' ( # & # $

=

= $

=

=

8

$

9

C 9 <

8

C 9 >

=

C <

#

=

% !

# !

!

#

=

= $

8 8

= C 9 @

!

=

=

=

:=

8

C 9 A

$ 8 $ 8

=

8

8

C 9 :

=

C 9 C

=

B

! ! $ !

! ! ! ! ! !

! ! !

! ! ! !

8

8

$ 8

$

! # ! $ ! ! !

# !

B

=

8

= 9<

! ! #

!

! ! !

8

!

8

$

! ! !

=

! ! ! ! !

! ! !

!

8

! # ! %

!

$

8#

C 9 ;

! !

8

cross-correlations

:

r u d

(a)

0

-8

-6

-4

-2

0 delay

2

4

6

8

r u d

(b)

cross-correlations

0

-8

-6

-4

-2

0 delay

2

4

6

cross-correlations

8

r u d

(c)

0

-8

-6

@ 8

-4

-2

0 delay

2

4

6

8

:8

! ! #

8!

!

C 98 =

! !

8

!

! ! # !

# )

! !

!

$

#

& "

*

!

%

"

"

"

# #

#

' " ( )

"

"

"

' "

( )

"

"

" # "

"

&

( '

"

"

#

# "

"

"

#

"

"

"

"

"

"

# "

'

*

"

"

'

#

"

" * "

)

"

#

#

#

) "

&

"

#

(

" $

"

"

! "

(

"

#

'

"

"

( " (

( &

*

$

"

" "

"

"

*

(

"

"

"

"

#

& )

"

" ! "

"

#

$

$

"

"

"

"

$

$

"

"

"

*

#

"

"

"

"

#

$

#

"

"

$

+

&

+

&

+

+

$

&

+

+

"

+

$

+

+

#

&

+ !

+

!

"

&

+

+

+

+

+ !

+

$

+

(

+

+

"

+

+

+

+

!

"

"

&

"

"

+

& &

" #

+

+

$

+

+

+

+

$

+

+

!

&

+

+

!

"

+

"

+

)

+

"

+

"

(

+

+

$

"

$

+

+

"

+

$

+

(

+

+

)

$

(

+

+

+

+

"

+

"

+

"

$

&

+

" "

+

"

+

+

+

"

$

+

!

+

$

(

+

+

"

+

+

&

+

"

& '

$

+

$

+

+

+

'

+

+

+

"

'

&

# #

"

&

#

&

"

#

"

( ! " #

"

#

+

(

+

(

! "

&

+

+

+

#

+

+

!

"

'

) ( (

!

(

+

)

)

+

+

+

&

'

!

+

"

(

(

#

"

#

) '

) )

"

#

#

"

!

%

!

%

&%!

"

!

"

" !#

# "

#

"

#

&! %

&! !

)

" %#

$

$

%

!

#

#

&%%

%

'

J EI

J EE

J II

Excitatory Population

Inhibitory Population

J IE

! #

"

"

"

"

(

(

"

( "

"%

#

)

"

(

(

$

)

(

" #

!

#

" #

$

"!

#

#

%

" ( " ( & "

&

!

" '

"

"

"

"

% !

"

"

#

" %

(

"%

(

"

& ! % " %

"

&%!

" !

"

& % % " %

#

"

#

"

"

"

& ! %

&%!

&%%

"! "%

& ! !

)

"

#

"

" !

"

#

!

"!

&! !

"

" #

" !

&

' (

& ! !

!

!

" #

$

%

( )

,

$

$

- $

,

$

$

# $

"

!

$

#

1

& ! %

&% !

'&

& ! !

"

, . /

" #

" !

" !

#

&! !

&

" %

" %

#

&%%

'

" !

" !

#

&! %

" %

" %

#

&%!

(

(

(

&! !

&% %

(

. $ " !

)

& % %

(

*

!

$

%

"

!

$

"

& ! % & % !

(

$

#

- $ !

" #

/

! - . $

( )

& ! !

( )

& ! %

& ! % & % !

& % %

+

"

!

( )

& ! !

, "

" $

#

. ,

0

!

(

)

!

$

- "

$

/

!

$

!

" !

!

"

%%

) ' " 0

,

$

$ !

+ - $

)

(

! - . $

! %

,

& % ! & ! %

" #

# "

$

" ,

$

!

%

'

"

"

"

%!

0

$ $

!

# " "

%

!

%

, / ,

" !

" %

#

. $ " !

& ! %

%!

%%

& % !

%!

& ! %

! !

&% !

$ "

$

"

, . /

#

- "

"

#

$

"

!

$ "

" %

"

#

$

$ " /

,

# "

.

$

"

$ " /

!

,

$

" /

" !

,

,

" ,

$

.

!

$

# "

" %

. " $

%

$ "

"

%

. " $

-

-

! !

& % %

#

$

)

,

$ "

,

$

"

!

$

# $

&! !

( )

$ "

"

" !

" %

%

$

$

" !

$

0

/

!

$

&! !

( )

$ " /

"

$

!

$

"

&% !

. " $

$

.

& ! !

! - . $

0

!

/

#

"

"

/

$ "

" #

$

$ !

! !

/

"

" !

$ / - !

#

-

$ "

, " $

# "

" #

. " %

" ! 0

" /

" !

"

. $

"

,

!

)

%

/

0

. - $

0

!

& ! ! !

&% % %

%

!

&

%

'

,

!

&! !

(

!

)

0

$

"

$

$

$

%

"

!

&% %

"

!

!

!

" #

#

#

-

!

! " ,

(

,

. $ /

(

"

/

!

! !

$

(

&% !

!

!

"

!

$

$

(

%

& ! %

- $

)

0

0

!

0

$

$ $

, / ,

.

- - ,

%!

.

(

!

!

" #

$

"

$

$ !

- $

# " %

#

-

) "

0

)

0(

"

,

$ $

$

! "

$

"

$ "

(

"

#

-

#

%

,

( )

. " %

( )

0

# "

" #

!

.

# "

!

! .

$

!

.

1

"

. !

.

#

$

$

, $

"

- " -

.

"

$

$ " /

"

!

$

$

$

& ! !

- ! !

%

"

,

!

!

$

! "

.

!

$

'

" .

#

" $

%

$

"

!

. "

.

"

. " ! $ $

, %

"

0

,

!

0

( )

$

"

$ "

$ !

!

"

( )

$

#

!

" - #

0

$

. " " - $

.

"

$ "

. "

1

" ! .

)

0

- ,

$ !

0

. " ! - " ,

. ,

$

#

- - ,

$ $

, / ,

"

$

# " %

! !

%

%

#

-

. " !

,

$

! $ !

"

$

.

- " -

, - , .

, . /

!

&%%

! !

!

#

. /

#

. $

" #

"

"

$

0

'

%

!

-

. " . $

"

"

,

!

0

"

& ! !

"

$

! - .

!

&! %

"

0

- ! $

. !

" #

&%!

$

!

0

$

%

!

-

- ! $

%

$

. !

" ,

%

$ $

%

$

!

! - $

#

#

(

&! !

!

!

$

- /

$

"

" # $ "

,

" #

"

$

$ . $

!

! !

$

!

"

" #

. " !

" $

!

"

!

"

. $

"

%

$

,

. " $

# "

$

#

" ,

"

( )

$ !

- " $ !

. " ! !

! !

$ "

#

- " -

$

,

. "

$

0

- - " . ,

! , ,

# "

-

"

$

, . /

# "

. " ! $ $ !

!

!

$

$

"

- ! !

"

!

- " $

/

. " ! - " ,

#

& ! !

"

$

!

"

# "

"

, - , .

-

$

" %

%

"

" ,

$

$

. " $

#

!

!

-

$ "

"

" .

, . /

$

( (

*

. $

%

$

"

!

0

"

$

$ $

# "

!

$

" /

- " -

$

"

$

$ . $

"

. " ! $ $

!

%%

& % %

%

%

& % %

(

!

,

$

$ $

" #

" /

0

$

"

. " $

$

$

$ !

!

$ # "

" ,

$ !

$

0

$ "

! - " , !

$ "

- %

$

. " $

$

" #

!

%

.

0

$

! $

" #

$

.

.

" #

"

" #

$

. " $ ! $

"

$ $

%

$

!

%

. " %

%

$ "

"

$

%

"

" $

. " %

. " $

,

$

. - $

& % %

$

$

$ "

" !

# " %

$

!

"

$

" /

. " $

"

#

"

! / - $

$

'

0

0

$ . $

. " $

.

"

$ %

"

"

,

"

$

" #

-

$

. $ /

$

$

# " %

"

!

$ $

!

(

& % %

"

$

" /

-

$

$ "

$

-

!

,

0

%

- / !

" #

%

- !

" !

!

.

$

$ "

$ ! $

$ " %

$

" !

. " . $

%

%

" ,

$

$ "

$

/

$

/

$ "

!

! $

%

$

" ,

$

. " . $

- / !

"

%

%

, " $ ,

$

"! $ "

$ ,

!

%

, $ %

! $

%

.

$

!

$ $

0

0

0

,

. " ! - " ,

/

"

!

0

" !

"%

$

$

!

!

$ !

. "

$

!

,

"

$ " /

"

$ ,

!

/

$

.

" ,

$

.

%

$ "

.

- %

$

! $

"

$

" .

"

$ "

# "

-

$

- ! $

$

$ !

%

,

$ "

%

" ,

$

,

.

, " $ ,

.

"

,

" !

$

!

$

" !

0

" !

!

, $ %

$ "

!

.

$ "

" #

.

$ "

$

.

$ !

$ " /

,

"

,

$

. $

. " $

%

/

. " $

,

!

" /

,

" #

"

"

. $

$

" #

$

$

!

/

$

! - .

$

$

" #

" $

. $

" #

" !

$

$ " /

,

$

$

$

.

$

$

"

!

/

$

%%

/

. " $

"

,

%

$

- " -

" /

"

. " " !

$

$

$ # "

!

0

$

$ !

!

$

$

0

$ !

-

' )

0

"

. .

. " $

$

- " !

"

. " $

0

$

-

$ %

, ! .

-

" /

- " !

" /

$

!

!

$

$

"

!

$ . $

$ "

" /

$ $

$

$

$

$ $

$

$

! $

!

# . $

. $

$

$

$ "

% &

0

.

. " ! - " ,

.

! $ $

$ "

!

$ "

!

!

.

$

,

,

,

&! !

$ " $

- " -

-

$

/

$

%

/

!

$

0

.

$ ,

$

$ "

%

,

#

$

" ,

. $

" !

"

"

. $

"

-

%

" ,

$

$

. . " ,

$

$

.

- $

"

$

"

$

%

.

- ! / - $

.

%

$

%

%

&%!

$

.

%

$

$

,

0

0

.

$ " /

!

! "

.

"

$

.

$

%

,

- "

! !

$

! $ $ !

$

$ "

$

/

$ ! " ,

" .

"

!

,

! "

$ $

-

!

.

$ /

$ # "

0

"

! !

$ "

- " $ $

/

$

" #

"

!

$

$ "

$ "

! !

$

#

"

" #

$

!

$ " "

$

$

!

! / - $

. "

-

- ! $

$ " $

$

$

.

$

-

$

. " ! $ $

%

$

.

.

$

$

" #

$

$ $

$

!

.

&%! " #

. "

%

$

$

$

%

" #

$

$

"

0

" #

0

.

.

" #

/

$

$

.

$

"

$

" #

!

!

0

"

$

" #

- - "

$ /

! / - $

&! !

%&

- ! /

! / - ! !

. $

$

$

$ "

%

!

$ " /

0

!

$

" ,

!

$

$ " /

$

.

0

$

$

$

! / - ! !

! %

. ,

. " ! $ $ !

%

$ "

$

,

! " %

$

$ " /

!

%

-

$

"

- " $ $

$ ,

! /

-

.

" $

$ $

- " ! $ ! / - $

- - /

! / - $

%

" !

$ " /

.

,

!

"

0

- " ! !

!

0

/

& % " %

"

. "

! / . " "

$ ,

$

$ / -

"%

,

$

! / - $

$

" !

- ! !

%

$

%

$

" !

!

- - "

- - "

!

$

$ " /

% &

! .

! "

! / - ! !

$

$

# "

%

0

$ /

,

! $ , !

"

- ! $ !

#

#

$ "

" .

#

! - . $

" #

& ! " !

"!

$ !

" #

$ "

&! !

#

$

. "

"

"

%

$

-

!

0

,

!

.

"

! $

. ,

"

" $

.

$

! $ $

,

$

! / - $

%

# "

$ " $

, $ %

$

! $

$

" /

$

! %

.

-

$

# " %

$

" #

%

&%%

$

" .

"

%

- . $

$

.

!

-

$

!

,

!

!

0

#

.

!

,

%

#

-

$

$ !

"

.

" ,

"

'

! %

# " %

0

$

!

&! !

!

.

" #

! %

$

"

. " %

%

" #

$

$

! !

,

$ "

!

&%!

$

!

$

$

$ ! " ,

, $ %

/

"

/

"

$

.

-

0

0

!

0

$ !

%

$ $

$

. /

%

-

- $

, !

" ,

!

0

"

!

- " $ $

%

%

$

%

"

#

"

#

&! %

$

!

0

. " " !

!

!

- " -

,

! / - $

. $

" /

$ ! " ,

- ! $

!

"

$

" ,

!

$

"

" " " ,

0

. !

" #

"

#

" #

" !

0

"

. $

"

# " %

!

#

# " %

- ! $

- "

$

. $

"

#

$

$

#

$

&%!

$ "

&! %

"

- %

. $

.

.

$

- "

%

$

#

" - #

#

/

.

!

"

. $

"

. $

. " " !

$ !

# "

"

$

- "

$

$ "

0

. !

# " "

!

! $

" #

!

" .

*

$

$

$

" #

$

" #

"

! / - $

!

#

$

" ,

"

. " ! - " ,

/

( )

$ "

$ "

&! !

!

! $ $

. "

, /

"

! $

'

!

$

! $

- $

$

'

%

%

" #

- . $ ,

. $

!

- " -

!

0

" #

$ " /

$

.

"

0

!

!

,

-

!

,

!

-

! $

$

$ /

$

, !

$

. . $

" ,

%

$ !

"

&%%

$

$

,

!

. " !

/

$%

!

! / ! $ %

- "

"

$

$

/

!

!

!

" #

! $

,

#

#

$

!

,

# " %

$ "

- "

%

$

&

!

0

#

- $

" /

!

/

, - ,

. !

%

#

"

%

. $

"

$ $

$

" !

%

!

" !

&

! - .

%

& ' (

!

&

$ "

&

" #

.

. " !

$

0

$ !

,

0.03 E I 0.025

auto-correlations

0.02

0.015

0.01

0.005

0 -8

'

%

" %

&

!

" %

%

$

, - , $

-4

%

0

-6

-2

&

0 delay

# "

!

0

6

8

$

.

4

$

0

'

! "

2

/

$ " /

,

, . /

- " $

$

" /

/

! - . $

$

$

/

" . $

0

!

%

$

%

. " ! $ $

0

!

" #

$

#

&! %

" #

# "

$ $

- " -

%

.

. " !

0

! ! ,

, / ,

!

" #

"

!

$ $

$

$

!

. /

$

$

%

!

&

# . $

%!

.

%

. "

,

0

&

,

" #

" $

!

$

%%

%

&

/

$

"

$

'

.

! - . $

$

/

$

0

! #

$

$

$%

%

!

/

$

%

$ $

! / %

-

"

$

, " %

" .

$

$

$

- " -

, /

!

0

!

" $

$

0

" ,

$

$

,

$

$ $

! "

!

- ,

$

!

!

.

$ $

!

$

. $

%

.

" $

-

!

! %

.

" %

%

&

!

%

$

&%!

$ "

- " -

.

0

!

$ !

%

" ! .

$

!

$

/

" #

" #

!

0

! / %

. "

$

. " ! $ $

. " ! $ $

,

$ "

$

- $

$

.

!

-

"

$

%

, . /

$

,

, !

!

$ "

%

%

&

& %

%

&

&

2.5e-06 E-E I-I E-I

2e-06 1.5e-06

cross-correlations

1e-06 5e-07 0 -5e-07 -1e-06 -1.5e-06 -2e-06 -2.5e-06 -8

'

.

.

!

%

"

$

%

"

. $

/

0

0

0

!

$

- " %

! -

& !# !

$

'

$

" #

.

" "

. " $

"

2

4

$ $

%

!

. !

$

%

&

!

$

"

$

,

$

$

!

. $

$

6

$

&

# "

$

!

$

8

" #

. $

$ "

%

" #

$

$

%

"

!

&

. !

,

$ $

$

$

!

-

"

0

"

$ $

!

,

,

-

" #

!

-

" #

/

!

" #

-

!

$

%

!

$

!

. !

$ !

0

" !

!

!

!

!

,

! "

, ! .

-

"

"

$

! "

# "

$

%

!

. !

"

. $

"

!

, $

,

$"

, ,

,

$ "

/

0

-

- ! $

. " . $ ,

$

. " $

$

0

!

0

. " . $ ,

0

- . $ $

$ %

- " $ $

" #

$ / - !

" . /

" #

$

" $

$

-

"

!

$

.

,

"

,

"

$

$

%

$

- " -

, /

0

$ $

$ "

!# !

$

!

$

$

$

$ $

$

&

$

0

& ! # ! %

$

! !

- ! $

!

" #

. " ! - " ,

,

0 delay

! "

$

$ "

$ !

0

$

!

" #

"

/

-2

-4

$

# . $ "

$

0

!

$ !

# $

. "

0

-6

"

!

$

" #

,

. . " %

,

$

, ,

,

-

,

/

$

! / %

%

$

. $

. "

- . $ ,

0

-

!

.

$ "

$ $

!

3e-06 r u av d

2.5e-06

cross-correlations

2e-06 1.5e-06 1e-06 5e-07 0 -5e-07 -8

'

!

$

"

$

$

.

"

- ,

#

" #

.

" !

6

8

! $ "

" #

$ !

!

. !

$

! .

4

$

! / - $

$

" !

. !

2

!

$

/

. "

0 delay

"

! $ "

,

%

$

"

.

,

$

"

. $

&

,

$

$

.

"

$

!

$ " $

.

$ . $

"

!

! / - $

! / - !

!

!

$

! %

$ $

"

!

!

! .

" /

/

! $ "

$

$

! # "

- %

-

$

" #

0

.

!

'

0

"

/

/

0

-2

.

" , !

- ! $

,

" #

. $ /

. " $

$ !

!

" $

. " !

,

-4

!

0

$

0

-6

& ! !

%

$

.

& % !

! "

$

"

!

" # $

" " " ,

& ! %

& % %

" #

$

#

" - #

! # "

$

. $

"

. " $

.

"

" . .

#

. $

!

"

$

$ !

!

" #

$

%

&

!

"

!

" $

" #

$

%

-

$

- %

. "

-

0

0

. " ! $ $

, !

$

$ !

!

/

$

! $

. " " !

#

. $

$ "

- %

. " $ "

%

$

!

$

$

% $

,

$

- "

$

,

$ %

!

,

'

0

$ "

,

0

!

. " !

$

! ! ,

%

0

- $

!

$ %

$ "

#

"

$

0

0

$

$

,

- "

!

, !

!

#

%

#

-

$ "

%

$%

"

" #

! $ $

&%%

#

%

$

! !

!

$

"

! /

%

0

- ! $ ,

#

$

!

, ,

- "

"

. $

!

- "

& ' (

$

! - . $

/

$

-

$ "

0

/

!

"

/

$ "

.

$

# "

"

"

.

!

& ' (

$

!

'

0

0

.

%

#

,

%

. " ! $ $

. " !

$

!

$ "

! / - $

$

! - . $

#

. " %

.

. $

"

0

-

! - . $

/

$

/

0

!

!

0

$

!

%

" #

!

#

/

$

.

$

.

$

! "

. $

! / ! $ %

- -

" $ "

" ,

!

!

! $

$

$

!

"

- - " .

- "

$

!

"

!

/

!

.

0

- "

0

- "

,

$

- " $ $ ,

$ ,

, !

. " - ! !

"

"

% &

.

,

!

$

$

&

. ,

- " $

. " ! $ $

$

"

$ $

0

! $

. $

. $

. / .

$ .

#

,

.

$

!

$

%

,

$

" - #

$

, . /

$ $

$

.

$

$ " "

$ "

- "

! / ! $ %

! $

$ "

" ! $ $

$

. " !

" $

, %

,

$

$

! $

# "

"

%

! / ! $ %

$

.

! "

$

/

$

-

. $

!

!

%

. $

%

, " %

. " ! - " , !

!

#

$

%

$

&

" /

$ " /

!

- . $ ,

,

$ $

$

,

&

$ "

!

0

$ $

0 & &

0

!

$ %

. $

!

"

/

% 0

$ "

&

$

0

$

%

$ !

! %

!

0

$ "

$

#

"

$

&! % &%!

, !

% $

$ "

. $

"

!

$

!

$

0

$ $

%

- "

. " ! - " , !

& 0

! / ! $ %

, . ! !

$

$

! $

!

!

"

!

'

&! !

- "

" #

$ !

!

$ $

.

$ !

#

"

0

. " %

. $

" #

! $

#

! .

,

" - #

. / .

$ $

- "

$

"

,

$

"

- %

!

& !

!

$

. !

. " ! - " ,

( )

"

!

*

0 "

0.06 (a) 0.055

firing rate of inhibitory neurons

0.05

0.045

0.04

0.035

0.03

0.025

0.02 0.006

0.008

0.01

0.012

0.014

0.016

0.018

0.02

0.008

0.01 0.012 0.014 0.016 firing rate of excitatory neurons

0.018

0.02

0.06 (b)

firing rate of inhibitory neurons

0.055

0.05

0.045

0.04

0.035

0.03

0.025

0.02 0.006

'

0

1 E-E(0) E-I(0) I-I(0)

(a)

equal-time cross-correlations

0.1 0.01 0.001 0.0001 1E-05 1E-06 1E-07 0.01

0.1

1

0.1 alpha

1

(b)

decay constant

100

10

1 0.01

'

0

0.03 E I

0.025

auto-correlations

0.02 0.015 0.01 0.005 0 -0.005 -50

'

'

$

0

'

!

, %

" ! .

- ,

$

%

" $

$

"

# " %

!

, /

! $

$

#

!

$

!

$

"

$

$ $

!

"

. $

"

$ "

!

$

$

$

-

$ $

$

30

40

50

%

!

!

"

&

!

" #

!

!

%

&

"

. " . $

"

%

,

! %

%

,

!

%

&

!

$ $

! #

0

0

,

%

. $

"

& 0

!

" #

!

$ "

.

. " !

!

$

0

, /

!

"

- " "

$

. ,

0

!

, /

$

$

$

$

20

, / ,

$

$

$

$

10

. " - " $ ,

"

" #

0 delay

%

$

# "

"

,

, . /

$

$

- ! $

. " $

$

#

-10

"

-20

. $

$ $

, / ,

$

"

. " " - $

#

$

!

-30

0

-40

%

$%

$ $

. " ! $ $

$ "

!

, " %

$

"

$ ,

/

!

" #

, /

!

.

.

" ! .

$

%

$ .

$

! %

" #

%

!

" ,

$

#

. " !

$

$ "

.

'

. /

" #

0

!

$

!

#

!

!

!

0

.

. !

-

0

!

!

0

#

,

%

. $

#

%

"

.

%

$

. " %

-

-

!

! $

. " ! - " , !

$ ,

$ "

. $ ,

$ "

/

$

,

$

0

!

. !

!

!

%

$

& ' (

$

. !

! / ! $ %

" #

! - . $

/

!

$

0

0

!

$

!

/

" .

. !

0.006 E-E I-I E-I

0.005 0.004

cross-correlations

0.003 0.002 0.001 0 -0.001 -0.002 -0.003 -0.004 -50

'

$

%

,

" #

$

$

$

$

%

,

- ,

. $

$

! %

" %

!

%

!

!

&

"

#

!

$ $

$ $

$

# "

%

$

$

"

%

$

/

-

" .

0

$ "

#

!

"

. $

/

"

" #

!

! $

$

40

50

%

/

$

!

- ! $

$

! !

,

%

!

! !

,

$ "

$ $

!

!

. " %

-

$

# . $

/

&

$

# "

# . $

"

$ $

,

.

#

. /

( )

$

$ $

"

"

!

"

! "

. $

$

!

" #

$

$

. !

. " $

! %

0

. $ /

,

- $

$

#

$

!

- " %

$

/

$ "

!

0

$ "

%

0

$ $

$ "

!# !

$

!

'

" #

!

.

. $ ,

" $

. /

" #

/

, . /

0

. !

" $

"

- " $

#

. $

!

!

! "

! / ! $ %

$

0

. !

, " !

30

!

, . !

$

0

20

, . /

$

!

. " ! $ $

- " -

!

$

!

!

'

10

$

$

!

, . !

# " %

$

0 delay

$

!

0

. $ ,

! /

" #

-10

"

" ! .

!

$ "

"

, " %

!

0

. $

$

/

!

-20

, / ,

, %

!

!

-30

*

!

( )

0

-40

$

$

!

$

,

$

$

$

- "

$

, ,

0

!

!

" $

-

. !

0

. /

.

$

.

-

%

!

&

$

$

,

!

#

# . $ "

" #

$ !

0

" $

. "

0

$

$

-

!

" #

, /

$

$"

0

%

$

. !

, . !

/

. "

'

$

" %

"

. $ !

" #

! / ! $ %

$

/

3.5e-05 E-E E-I I-I

3e-05

cross-correlations

2.5e-05 2e-05 1.5e-05 1e-05 5e-06 0 -20

'

!

%

$ $

!

0

$

$

, ! .

,

%!

%

%

&

$

&

%

,

/

$

%

!

$

$ 0%

$ $

!

$

. !

, /

- "

- $

0

-

10

15

20

$ $

!

"

"

!

$

-

%

" #

-

$

$

, ,

. !

$

$

$"

!

! !

$ "

$

"

"

!

"

!

" #

. " $

!

%

$

%

&

!

!

.

!

!

.

!

"

-

. " $

. " $

. " ! !

" #

,

$

$ $

$ /

$

!# !

%

&

"

$

0

! !

"

$

$

,

" #

$ "

,

$

-

! %

%

, /

$

$

!

"

, /

&

,

" #

0

!

!

$

, . !

$

5

"

0 delay

! . " . $ ,

" #

-5

. !

. $

$

,

,

- - ,

,

"

$

!

,

" .

-

.

$

0

-

-10

.

! !

$

" #

" ! $

,

0

-15

"

&

!

,

$

!

0

$

$

- $

! "

$

#

0

$

"

$%

,

*

"

. !

$

$ $

$

$ $

,

!

!

! !

$

0

!

%

%

&

$ "

%%

0

,

&

- " -

%

$

&

"

,

$

"

$ "

! %

!

. $ " !

%

$ $

&

1.2e-05 r u av d

cross-correlations

1e-05

8e-06

6e-06

4e-06

2e-06

0 -20

'

!

0

0

!

!

% (

%

(

-10

0 & % 0

%

-15

-5

!

%

& &

& 0

"

(

(

!'

!

(

%

20

15

10

& % !

$

5

0 delay

& ! !

&

!

"

&

% (

& % (

& ! !

%'

(

%

%

&

%

&

%

&

!

,

!

! - . $

$

( )

, " %

#

" - #

#

$ "

. $

"

!

%

,

,

$ "

0

" #

" $

. $

"

!

$

" %

!

" #

$ !

$%

$ $

$

$

. " !

- - " . ,

& % ! & ! %

$ !

,

!

$

$

'

"

!

$ "

- ! !

$ "

,

( )

,

"

,

"

"

% (

- " -

0

. " %

,

# "

!

!

$

0

!

.

$

$ /

" $

$ $

! , ,

%

' (

" $

-

"

&

.

$

$

!

& ! !

'

$ $

$ $

$

,

!

'

$ $

%

! / %

. $

"

"

!

!

,

%

, - ,

, / ,

#

" ,

,

%

.

$

- - " . ,

$

0

0

$ %

0

!

$

. - $

$

!

$

" #

0%

" $

0

& &

0

. "

,

.

$

$

$ !

%

, - , $

)

'

$ $

!

# "

$

$ "

- " -

$

"

!

$ "

%

0%

0

& &

$

/

(

(

%

&

"

(

%

'

&

"

(

' (

%

&

%

%

&

&

'

"

"

(

(

'

'

%

&

% &

! !

% &

!

% &

!

% &

0

!

0

0

0

% &

%

$

% &

%

$

% &

! "

% &

% &

% &

%

!

"

-

"

!

0

%

$

,

%

$

!

/

0

,

! $

" %

$ "

0

! !

0

,

- "

$

,

$ #

,

!

/

00

0

0

"

" - / !

0

%

& 0

0

- -

,

%

0

0

,

!

0

.

.

&

" " %

0

0

0

,

$ #

!

0

,

,

0

0

%

0

0

%

0

! !

& 0

0

0

,

0

,

0

,

%

" %

0

- "

!

/

" %

- "

!

/

- " !

&

,

0

0

" %

0

#

" %

/

0

0

0

- " !

- -

$

%

/ !

0

/ !

/

0

0

0

0

/ !

0

0

$ $

%

0

%

& 0

0

%

& 0

& 0

& 0

$

$

%

0

,

/ -

!

$

0

/ !

0

0

$ $

0

%

& 0

% &

%

$

$

$

"

% &

$

"

0

0

&

.

% &

'

$

%

&

0

&

% &

% &

% &

% &

%

0

$

$ "

$ "

.

0

0

0

"

"

0

0

0

!

0

! " %

,

0

"

" 0

%

"

!

,

- "

%

%

!

0

0

!

0

,

!

,

" %

- "

0

0

,

"

"

%

$

" %

%

!

/

0

" ! "

0

0

0

" ! .

0

0

$

"

0

$

%

/

/

"

%

# %

0

"

& 0

,

$

,

/

$ "

0

%

0

0

" %

$

,

,

0

/

$ !

,

0

0

! - . $ "

0

&

"

,

%

%

"

"

# %

$

$

&

,

"

0

$

,

/

0

0

!

-

0

0

!

,

0

%

"

/

/ !

0

0

!

0

0

,

# ,

&

/

0

$

! " , /

!

!

- "

%

$

%

"

0

0

0

" %

/

,

!

,

0

" " , /

$

- -

0

!

" %

0

0

0

! !

0

! "

0

- -

!

,

0

%

0

! $ /

% &

!

" / %

0

$

"

/

0

0

"

,

!

0

0

0

%

0

$

- %

0

-

"

&

0

-

%

0

" !

0

&

%

"

& 0

% &

%

/

$

& 0

- " !

,

0

0

/ !

0

"

0

0

0

$

$

$

" %

$ $

0

" %

-

%

-

$

$

" , "

0

0

&

%

&

%

& 0

%

%

,

$ "

& 0

& 0

& 0

- -

0

%

&

% &

" "

&

&

&

% &

% &

% &

% &

% &

%

%

0

,

0

.

!

&

% &

%

%

%

&

0

$

0

/

/

" %

- " !

&

&

!

# $

0

0

0

0

,

"

" %

$

0

$ "

/

&

0

- " !

/

%

0

0

$

!

0

0

/

%

&

,

$

0

,

$

/

0

" %

,

0

0

%

0

0

0

0

0

0

"

"

"

0

0

/ !

- -

!

0

/ !

$ $ # " ,

"

0

0

0

,

,

"

,

& 0

0

- " !

&

$

0

" %

0

0

0

0

! !

! $ " .

,

. "

,

$ "

.

%

%

" ! .

0

%

&

%

" ! .

0

0

& 0

%

& 0

& 0

%

%

0

, !

& 0

& 0

$ "

0

,

%

%

0

$ "

! $

" -

0

- -

%

. , %

,

0

0

%

,

" #

! "

.

%

0

0

%

0

"

0

.

- $

!

%

/ !

0

0

0

0

" 0

%

-

,

0

'

,

!

!

0

0

"

0

# $

0

"

,

0

0

0

.

0

%

& 0

0

,

" " %

0

%

0

/ !

0

0

# ,

" .

0

, , /

" .

0

$

0

. ,

0

.

0

& 0

-

0

$

0

,

%

!

&

. "

0

!

0

0

.

.

% &

% &

"

! "

%

-

0

$ 0

%

%

& 0

0

0

,

$

"

0

0

"

- /

0

0

%

& 0

%

" $

" ,