SlideShare una empresa de Scribd logo
1 de 40
Descargar para leer sin conexión
Mitä ylioppilastutkinto kertoo
lukiolaisten kielitaidon tasosta
- ylioppilastutkinnon
kielikokeiden tulokset
verrattuna LOPSiin

Taina Juurakko-Paavola & Sauli Takala
30.11.2013
ylioppilastutkinto.fi

digabi.fi
Esityksen rakenne
 Taustaa ja tavoitteet
 Tuloksia
 Johtopäätöksiä
Taustaa ja tavoitteet
● OKM:n erillisrahoitus v. 2012
● Jatkona Kielivaliokunnan tekemälle määrätietoiselle kehittämis- ja
laadunvarmistustyölle
● Tavoitteet
1) laadunvarmistus: varmistaa että kielikokeet vastaavat Lukion
OPSissa kullekin oppimäärälle esitettyjä tavoitetaitotasokuvauksia
2) yo-arvosanojen kansainvälisen vertailtavuuden edistäminen:
tulosten vertaaminen Eurooppalaisen viitekehyksen
taitotasokuvauksiin (=EVK, CEFR)
3) taustatiedon antaminen lukion ops-työhön
Taustaa
Taitotasojen määrittämisen taustamateriaalit
● Eurooppalainen viitekehys (=EVK 2003, Common European
Framework of Reference for Languages=CEFR 2001)
● Lukion opetussuunnitelman perusteiden taitotasokuvaukset
(2003)
● Manual for Relating Language examinations to the CEFR
(2009) (Council of Europe)
EVK-asteikolla
voidaan tehdä monia
tasoerotteluja

C2.2

C2

C2.1

C1.2

C1.1

B2.2

B2.1

B1.2

B1.1
A2.2

A2.1

A1.2

A1.1

C1
B2

B1

A2

A1
Alle A1

C

B

A
Lukion oppimäärät ja tavoitetasot
Taitotasojen asettaminen (1)
● Lähtöoletus on, että kokeen/tutkinnon tulee olla korkealaatuinen: reliaabeli
ja validi. Tämä lähtökriteeri ei aiheuta ongelmia.
● Yhdistetään asiantuntijoiden arviot tehtävien edellyttämästä taitotasosta
empiiriseen tietoon niiden vaikeustasosta/taitotasosta.
● Asiantuntijoiden on tunnettava eurooppalaiseen viitekehyksen ja
opetussuunnitelman taitotasomääritelmät ja osattava tulkita tasoja riittävän
tarkasti.
● Varmistetaan, että asiantuntijoiden kyky arvioida tehtävät on hyvä, jotta
saadaan näyttöä, kuinka hyvin taitotasojen asettamisen keskeinen edellytys
täytetään.
Taitotasojen asettaminen (2)
● Käytetään lukuisista mahdollisista metodeista sellaista, joka soveltuu
hyvin aineistoon ja josta on hyviä kokemuksia aikaisemmista
hankkeista (pitkä englanti v. 2001 ja keskipitkä ruotsi v. 2004).
● Analysoidaan aineisto tilastollisesti ja määritellään taitotasorajat.
● Tarkistetaan, kuinka kokeen tehtävät (osiot ja kirjoitussuoritukset)
sijoittuvat taitotasoille.
● Tarkastellaan tämän perusteella, miten kokeet vastaavat
opetussuunnitelmassa asetettuja tavoitetasoja (kokeiden
vaikeustason sopivuus).
● Tarkastellaan ylioppilaskokeen pisterajoja suhteessa
taitotasorajoihin.
● Pohditaan mahdollisia jatkotoimenpiteitä.
Taitotasojen asettamisen vaihe 1a
Kielivaliokunnan ja sensoreiden tekemää työtä
1 a) Perehtyminen viitekehyksen taitotasoihin:
● Etukäteistehtävänä tutustua tiettyihin taitotasokuvauksiin
● Kuvausten läpikäyminen yksi kuvaus kerrallaan
● Oikeiden taitotasojen näyttäminen
● Keskustelu tuloksista
 Tulokset osoittavat, että arvioijat olivat perehtyneet hyvin
taitotasoihin
Englanti: Sensoreiden kuvainten arvioinnnit verrattuna viitekehyksen
tasoihin; korrelaatio (samansuuntaisuus; tarkka vastavuus alhaisempi mutta
varsin hyvä; +/1 yksi taso)
Arvioija

Kuullun
ymmärtäminen

Luetun
ymmärtäminen

Kirjoittaminen

Kielioppi

Sanasto

.980

.983

.970

.960

.983

.964

.983

.979

.976

1.00

.929

.923

.965

.942

.940

.864

.912

.990

.960

.973

.922

.869

.957

.899

.969

.941

.895

.905

.946

.909

.936

.941

.974

1.00

.982

.944

.842

.990

1.00

.812

.957

.852

.928

.875

.983
Deskriptoreiden arviointien tarkkuus ( %)
Osataito

Täysi yksimielisyys

Kuullun ymmärtäminen (12
väittämää)

60, 58, 85, 43,
88, 80, 70, 58,
70, 53, 60

Luetun
ymmärtäminen (12
väittämää)

81, 67, 70, 91,
37, 51, 67, 58,
58, 58, 49, 28
53, 46, 51, 53,
63, 63, 88, 59,
80, 78
52, 73, 73, 64,
93, 73, 25, 64,
75, 68
93, 75, 34, 70,
91, 48, 84, 95,

Kirjoittaminen (10
väittämää)

Kielioppi (10
väittämää)

Sanasto (10
väittämää)

Taitotasojen
vaihteluväli
2-4

2-4

Yhden tason
poikkeaminen +/100, 93, 98, 100, 98,
100, 98, 100, 98, 95,
93, 100,100
81, 95, 91, 88, 88, 97,
88, 81, 77, 91, 100

2- 5

78, 93, 98, 90, 90, 90,
100, 95, 95, 100

2-3

89, 86, 100, 100,
100, 100, 100, 100,
100, 100

2-4

100, 100, 93, 100,
98, 91, 98, 100, 91,
100
Taitotasojen asettamisen vaihe 1b
Kielivaliokunnan ja sensoreiden tekemää työtä
1b) Tekstien ja tehtävien/Kirjoitussuoritusten arviointi
viitekehysten taitotasokuvausten avulla
● Jokainen teksti ja tehtävä/osio arvioitiin erikseen

● Kirjoitussuoritukset suoraan viitekehyksen taitotasokuvausten avulla ja
YTL-pisteasteikolla
Taitotasojen asettamisen vaihe 2
Taitotasojen asettamiseen perehtyneiden asiantuntijoiden ja
aktuaarin tekemä työ
● Vaiheessa 1 tuotetun datan syöttäminen
● Valmiina olevan datan hyödyntäminen (esim. osioiden
ratkaisuprosentit)
● Tilastolliset ajot ja testit
Osiotasoiset tulokset – englanti (ote, esimerkki tulostuksesta)
Pitkä englanti: Osioiden koodi, koetyyppi, maksimipistemäärä, painokerroin, ratkaisuprosentti, taitotasoarviointien keskiarvo/mediaani/moodi, keskiarvon keskivirhe
sekä eurooppalaisen viitekehyksen ja opetussuunnitelman mukainen taitotaso.
Osio Ma
x PaiKoodi
tyyp pist no
pi
.

Arv_

Arv_ Arv_ KeskiOps
Ratk
media moodi virhe Viitek. _tas
k-arvo
.%
ani
taso
ot

KY1

MV

1

1

54,7

KY2

MV

1

1

89,8

KY3

MV

1

1

81,6

KY4

MV

1

1

62,6

KY5

MV

1

1

59,5

9,96

7

7

0,16

5,45

5

5

0,14

8,92

7

7

0,18

8,60

7

7

0,14

8,44

7

7

0,19

B2/C1
A2/B1
B1
B2
B2/C1

B2.2

A2.2
B1.1
B2.1
B2.2
Tuloksia

ylioppilastutkinto.fi

digabi.fi
Tutkimuskysymys 1.

● Mikä on Ylioppilastutkinnon kielikokeiden vaikeustaso
verrattuna LOPSin taitotasoihin?
Kokeiden vaikeustaso vs. Lukion opetussuunnitelman
perusteiden tavoitetaso

Suhteellisesti helpoin
Keskipitkä
suomi

Keskipitkä
ruotsi

Suhteellisesti vaikein
Pitkä
englanti

Lyhyt
ranska

Lyhyt
saksa
Taulukko 14. Pitkän englannin kokeen
osioiden jakautuminen taitotasoille
Osataito
Kuullun
ymmärtäminen/30 osiota
Luetun
ymmärtäminen/
30 osiota
Sanasto ja
rakenteet/
40 osiota
Osioita/100
% osioista

Osiot Alle
A2.2
n

A2.2

B1.1

B1.2

B2.1

B2.2

4

7

8

7

4

%
n

13,3
4

23,3
8

26,7
5

23,3
9

13,3
2

13,3
6

26,7
12

16,7
8

30,0
4

6,7
2

8

15,0
14
14,0

30,0
27
27,0

20,0
21
21,0

10,0
20
20,0

5,0
8
8,0

20,0
8
8,0

%
n

%
n
%

2

6,7

2
2,0

Yli
B2.2
Taulukko 15. Keskipitkän ruotsin kokeen
osioiden jakautuminen taitotasoille
Osataito
Kuullun
ymmärtäminen
/
30 osiota
Luetun
ymmärtäminen
/
30 osiota
Sanasto
ja
rakenteet/
30 osiota
Osioita/90
% osioista

Osiot

A2.2

B1.1

B1.2

n
%

Alle
A2.2
3
10,0

16
53,3

7
23,3

3
10,0

Yli
B1.2
1
3,3

n
%

7
23,3

11
36,7

9
30,0

1
3,3

2
6,7

n
%

4
13,3

14
46,7

8
26,7

4
13,3

n
%

14
15,6

41
45,6

24
26,7

8
8,9

3
3,3
Taulukko 16. Keskipitkän suomen kokeen
osioiden jakautuminen taitotasoille
Osataito

Osio
t

A2.2

B1.1

B1.2

n
%

Alle
A2.
2
8
32,0

Kuullun
ymmärtämine
n/
25 osiota
Luetun
ymmärtämine
n/
30 osiota
Sanasto
ja
rakenteet/
25 osiota
Osioita/80
% osioista

11
44,0

5
20,0

1
4,0

n
%

6
20,0

17
56,7

6
20,0

1
3,3

n
%

3
12,0

13
52,0

6
24,0

n
%

17
21,3

41
51,3

17
21,3

Yli
B1.2

3
12,0
2
2,5

3
3,8
Osataito

Osiot

Alle
A2.1

A2.1

A2.2

B1.1

Yli
B1.1

Taulukko 17. Lyhyen ranskan kokeen
osioiden jakautuminen taitotasoille
Kuullun
ymmärtämine
n/
30 osiota

n

8

8

7

5

2

%

26,7

26,7

23,3

16,7

6,7

Luetun
ymmärtämine
n/
30 osiota

n

9

7

8

6

%

30,0

23,3

26,7

20,0

Sanasto
rakenteet/
30 osiota

n

4

12

8

3

3

%

13,3

40,0

26,7

10,0

10,0

Osioita/90

n

21

27

23

14

5

% osioista

%

23,3

30,0

25,6

15,6

5,6

ja
Osataito
Osio
Taulukko 18. LyhyenAlle A2.1 kokeen
saksan A2.2 B1.1
t
A2.1
Kuullun
n
7
9
5
9
osioiden jakautuminen taitotasoille
ymmärtäminen/
30 osiota
Luetun
ymmärtäminen/
30 osiota
Sanasto
ja
rakenteet/
26 osiota
Osioita/86
% osioista

Yli
B1.1

%

23,3

30,0

16,7

30,0

n
%

11
36,7

6
20,0

10
33,3

2
6,7

1
3,3

4
15,4

9
34,6

10
38,5

3
11,5

19
22,1

24
27,9

21
24,4

4
4,7

n
%
n
%

18
20,9
Tutkimuskysymys 2.

● Mitkä ovat Ylioppilastutkinnon kielikokeissa
saavutetut taitotasot?
Kuvio 2. Kokelaiden jakaumat kielittäin eri
taitotasoille keväällä 2012
80

70

60

50

Pitkä englanti
Keskipitkä ruotsi

40

Keskipitkä suomi
Lyhyt ranska

Lyhyt saksa

30

20

10

0
Alle A2.1

A2.1

A2.2

B1.1

B1.2

B2.1

B2.2

Yli B2.2
Kuvio 3. Prosentuaaliset taitotasojakaumat keskipitkässä
ruotsissa ja keskipitkässä suomessa

80

70,2
65,5

70
60

50
40
28,8
23,3

30
20
10

3

4,3

2,8

0
Alle A2.2

A2.2
Keskipitkä ruotsi

B1.1
Keskipitkä suomi

Yli B1.1

2,4
Taulukko 22. Eri oppimäärien kirjoittajien osuudet lyhyessä
ranskassa ja lyhyessä saksassa keväällä 2012
Oppim
äärä

Lyhyt ranska

Lyhyt saksa

n

n

%

%

A

118

9,9

293

16,9

B1
B2

16
507

1,3
42,4

13
757

0,8
43,8

B3

442

37,0

548

31,7

Ei
tietoa
Yht.

113

9,4

119

6,9

1196

100,0

1730

100,0
Kuvio 4. Prosentuaaliset taitotasojakaumat lyhyessä ranskassa ja
lyhyessä saksassa

60

52,5

52,6

50

40

34,4
29,8

30

20

13
9,5

10
0,9

3,7

1

0
Alle A2.1

A2.1

A2.2
Lyhyt ranska

B1.1
Lyhyt saksa

Yli B1.1

2,5
Tutkimuskysymys 3.

● Mikä on Ylioppilastutkinnon kielikokeiden
arvosanojen ja opetussuunnitelman perusteiden
taitotasojen vastaavuus?
Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman
perusteiden (2003) taitotasojen vastaavuus
Kieli

Tavoitetaso

Arvosana

Keskipitkä suomi

B1.1/B1.2

Eximia cum laude

Keskipitkä ruotsi

B1.1/B1.2

Magna cum laude

Pitkä englanti

B2.1

Cum laude

Lyhyt ranska

A2.1/A2.2

Approbatur/
Lubenter

Lyhyt saksa

A2.1/A2.2

Approbatur/
Lubenter
Taulukko 29. Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman perusteiden (2003) taitotasojen
vastaavuus kevään 2012 tutkinnossa vertailussa tietyn arvosanan laskennalliseen tavoitetasoon (LOPStavoitetaso varjostettu)
Kieli
Pitkä
K-2012
englanti
Lask.
Keskipit K-2012
kä
ruotsi
Lask.
Keskipit K-2012
kä
suomi
Lask.

Approba Lubenter
tur
Matala
Vahva B1.2
B1.2

Cum laude Magna

Eximia

Matala B2.1 Vahva
B2.1

Vahva 2.1/ Vahva B2.2/Yli
Matala B2.2 B2.2

Vahva B1.1 B1.2

Matala B2.1 Vahva
B2.1
Vahva A2.2 Matala
B1.1
Vahva A2.2 Matala
B1.1
Keskitasoine Vahva
n A2.2
A2.2
Vahva A2.2 Matala
B1.1

Matala B2.2 Vahva B2.2

Matala
A2.2
Matala
A2.2
Matala
A2.2
Matala
A2.2

Keskitasoinen
A2.2
Keskitasoinen
A2.2
Keskitasoi-nen
A2.2
Keskitasoinen
A2.2

Laudatur

Keskitasoi- Vahva B1.1/
nen B1.1
B1.2
Vahva B1.1 B1.2
Matala B1.1 Vahva B1.1/
B1.2
Vahva B1.1 B1.2/Vahva
B1.1
Taulukko 29. Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman perusteiden (2003) taitotasojen
vastaavuus kevään 2012 tutkinnossa vertailussa tietyn arvosanan laskennalliseen tavoitetasoon (LOPStavoitetaso varjostettu)
Kieli

Lask.

Approbatu Lubenter
r
Keskitasoi Vahva
nen A2.1
A2.1/Matala
A2.2
Matala A2.1 Vahva A2.1

K-2012

Vahva A2.1

Lask.

Matala A2.1 Vahva A2.1

Lyhyt K-2012
ranska

Lyhyt
saksa

Matala A2.2

Cum laude Magna

Eximia

Laudatu
r
Keskitasoine Vahva A2.2/ Keskitasoi- Vahva
n/Vahva A2.2 Matala B1.1 nen/
B1.1/
Vahva B1.1 B1.2
Matala A2.2 Vahva A2.2 Matala B1.1 Vahva
B1.1
Vahva A2.2 Vahva A2.2/ Vahva B1.1 Vahva
Matala B1.1
B1.1/
B1.2
Matala A2.2 Vahva A2.2 Matala B1.1 Vahva
B1.1
Kuvio 5.Yo-arvosanojen ja taitotasoarvosanojen
jakaumat pitkässä englannissa
35
30

25
20
15
10
5
0
i

a

b

c
Yo-arvosana

m
Taitotasoarvosana

e

l
Kuvio 6.Yo-arvosanojen ja taitotasoarvosanojen jakaumat
keskipitkässä ruotsissa
30

25

20

15

10

5

0
i

a

b

c
Yo-arvosana

m
Taitotasoarvosana

e

l
Kuvio 7.Yo-arvosanojen ja taitotasoarvosanojen jakaumat
keskipitkässä suomessa
30

25

20

15

10

5

0
i

a

b

c
yo-arvosana

m
taitotaso

e

l
Kuvio 8.Yo-arvosanojen ja taitotasoarvosanojen jakaumat
lyhyessä ranskassa
30

25

20

15

10

5

0
i

a

b

c
Yo-arvosana

m
Taitotasoarvosana

e

l
Kuvio 9.Yo-arvosanojen ja taitotasoarvosanojen jakaumat
lyhyessä saksassa
40
35
30
25
20
15
10
5
0
i

a

b

c
Yo-arvosana

m
Taitotasoarvosana

e

l
Johtopäätöksiä

ylioppilastutkinto.fi

digabi.fi
Kehittämistarpeita
1) Arvostelun kehittäminen:
- suhteellinen arvostelu ei toimi kielikokeissa ja eri kielten arvosanat
eivät vertailukelpoisia keskenään: lyhyissä kielissä vaatimustaso hyvään
arvosanaan kohtuuton verrattuna lukion tavoitetasoon
- taitotasoperustainen arviointi yo-arvosanan rinnalle,
arvosanamerkintä esim. tyyliin:
● Englanti (pitkä oppimäärä), laudatur (B2)

2) Kokeiden vaikeustason laadunvarmistus: sähköistämisen myötä
siirtyminen osiopankkipohjaiseen testaukseen, myöhemmin
adaptiiviseen testaukseen
3) Opetussuunnitelmatyö ja opetuksen kehittäminen:
erityisesti Lukion opetussuunnitelmien perusteiden mahdolliset
tarkistustarpeet tavoitetasojen osalta ja opetuksen kehittäminen
Kehittämistyön seuraavat askeleet
Jo sovittu
• Uuden laskentamallin käyttö arvosanoja jaettaessa keväästä 2014 alkaen
(kaikissa aineissa)
• Pitkässä englannissa ja keskipitkässä ruotsissa taitotasoarvio yo-arvosanan
lisäksi mahdollisesti keväästä 2014 alkaen
Myöhemmin
• Kokonaisvaltaisen kielikokeiden kehittämissuunnitelman laatiminen
• Nyt tutkimuksen ulkopuolelle jääneiden oppimäärien vertaaminen

• Tutkimus- ja kehittämistyötä yhdessä tutkijoiden ja opettajien kanssa
• Suullisen kielitaidon osakoe viimeistään 2019
Lisätietoja
Tutkijayliopettaja Taina Juurakko-Paavola, sposti taina.juurakkopaavola@hamk.fi
Professori (emer.) Sauli Takala, sposti sjtakala@hotmail.com

Más contenido relacionado

Más de IirisNii

Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia
Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia
Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia IirisNii
 
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...IirisNii
 
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...IirisNii
 
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...IirisNii
 
Dimova: National oral language assessment in Denmark: Where are we now and wh...
Dimova: National oral language assessment in Denmark: Where are we now and wh...Dimova: National oral language assessment in Denmark: Where are we now and wh...
Dimova: National oral language assessment in Denmark: Where are we now and wh...IirisNii
 
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013IirisNii
 
Järvinen: Tervetuloa 30.11.2013
Järvinen: Tervetuloa 30.11.2013Järvinen: Tervetuloa 30.11.2013
Järvinen: Tervetuloa 30.11.2013IirisNii
 

Más de IirisNii (7)

Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia
Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia
Järvinen: Suullisten koetyyppien hyviä ja huonoja puolia
 
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...
Tuokko: Konseptista käytännöksi - esimerkki suullisen kielitaidon digitaalise...
 
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...
Leblay: Suullisen kielitaidon itsearviointi uudenlaisen puhenäytteisiin pohja...
 
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...
Erickson: Large-scale assessment of oral language proficiency - A Swedish exa...
 
Dimova: National oral language assessment in Denmark: Where are we now and wh...
Dimova: National oral language assessment in Denmark: Where are we now and wh...Dimova: National oral language assessment in Denmark: Where are we now and wh...
Dimova: National oral language assessment in Denmark: Where are we now and wh...
 
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013
Hakola:LukSuS.- seminaari tavoitteet,toteutus,alustavat tulokset 30.11.2013
 
Järvinen: Tervetuloa 30.11.2013
Järvinen: Tervetuloa 30.11.2013Järvinen: Tervetuloa 30.11.2013
Järvinen: Tervetuloa 30.11.2013
 

Juurakko-Paavola: Yo-kielikokeiden tulokset verrattuna LOPSiin

  • 1. Mitä ylioppilastutkinto kertoo lukiolaisten kielitaidon tasosta - ylioppilastutkinnon kielikokeiden tulokset verrattuna LOPSiin Taina Juurakko-Paavola & Sauli Takala 30.11.2013 ylioppilastutkinto.fi digabi.fi
  • 2. Esityksen rakenne  Taustaa ja tavoitteet  Tuloksia  Johtopäätöksiä
  • 3. Taustaa ja tavoitteet ● OKM:n erillisrahoitus v. 2012 ● Jatkona Kielivaliokunnan tekemälle määrätietoiselle kehittämis- ja laadunvarmistustyölle ● Tavoitteet 1) laadunvarmistus: varmistaa että kielikokeet vastaavat Lukion OPSissa kullekin oppimäärälle esitettyjä tavoitetaitotasokuvauksia 2) yo-arvosanojen kansainvälisen vertailtavuuden edistäminen: tulosten vertaaminen Eurooppalaisen viitekehyksen taitotasokuvauksiin (=EVK, CEFR) 3) taustatiedon antaminen lukion ops-työhön
  • 4. Taustaa Taitotasojen määrittämisen taustamateriaalit ● Eurooppalainen viitekehys (=EVK 2003, Common European Framework of Reference for Languages=CEFR 2001) ● Lukion opetussuunnitelman perusteiden taitotasokuvaukset (2003) ● Manual for Relating Language examinations to the CEFR (2009) (Council of Europe)
  • 6. Lukion oppimäärät ja tavoitetasot
  • 7. Taitotasojen asettaminen (1) ● Lähtöoletus on, että kokeen/tutkinnon tulee olla korkealaatuinen: reliaabeli ja validi. Tämä lähtökriteeri ei aiheuta ongelmia. ● Yhdistetään asiantuntijoiden arviot tehtävien edellyttämästä taitotasosta empiiriseen tietoon niiden vaikeustasosta/taitotasosta. ● Asiantuntijoiden on tunnettava eurooppalaiseen viitekehyksen ja opetussuunnitelman taitotasomääritelmät ja osattava tulkita tasoja riittävän tarkasti. ● Varmistetaan, että asiantuntijoiden kyky arvioida tehtävät on hyvä, jotta saadaan näyttöä, kuinka hyvin taitotasojen asettamisen keskeinen edellytys täytetään.
  • 8. Taitotasojen asettaminen (2) ● Käytetään lukuisista mahdollisista metodeista sellaista, joka soveltuu hyvin aineistoon ja josta on hyviä kokemuksia aikaisemmista hankkeista (pitkä englanti v. 2001 ja keskipitkä ruotsi v. 2004). ● Analysoidaan aineisto tilastollisesti ja määritellään taitotasorajat. ● Tarkistetaan, kuinka kokeen tehtävät (osiot ja kirjoitussuoritukset) sijoittuvat taitotasoille. ● Tarkastellaan tämän perusteella, miten kokeet vastaavat opetussuunnitelmassa asetettuja tavoitetasoja (kokeiden vaikeustason sopivuus). ● Tarkastellaan ylioppilaskokeen pisterajoja suhteessa taitotasorajoihin. ● Pohditaan mahdollisia jatkotoimenpiteitä.
  • 9. Taitotasojen asettamisen vaihe 1a Kielivaliokunnan ja sensoreiden tekemää työtä 1 a) Perehtyminen viitekehyksen taitotasoihin: ● Etukäteistehtävänä tutustua tiettyihin taitotasokuvauksiin ● Kuvausten läpikäyminen yksi kuvaus kerrallaan ● Oikeiden taitotasojen näyttäminen ● Keskustelu tuloksista  Tulokset osoittavat, että arvioijat olivat perehtyneet hyvin taitotasoihin
  • 10. Englanti: Sensoreiden kuvainten arvioinnnit verrattuna viitekehyksen tasoihin; korrelaatio (samansuuntaisuus; tarkka vastavuus alhaisempi mutta varsin hyvä; +/1 yksi taso) Arvioija Kuullun ymmärtäminen Luetun ymmärtäminen Kirjoittaminen Kielioppi Sanasto .980 .983 .970 .960 .983 .964 .983 .979 .976 1.00 .929 .923 .965 .942 .940 .864 .912 .990 .960 .973 .922 .869 .957 .899 .969 .941 .895 .905 .946 .909 .936 .941 .974 1.00 .982 .944 .842 .990 1.00 .812 .957 .852 .928 .875 .983
  • 11. Deskriptoreiden arviointien tarkkuus ( %) Osataito Täysi yksimielisyys Kuullun ymmärtäminen (12 väittämää) 60, 58, 85, 43, 88, 80, 70, 58, 70, 53, 60 Luetun ymmärtäminen (12 väittämää) 81, 67, 70, 91, 37, 51, 67, 58, 58, 58, 49, 28 53, 46, 51, 53, 63, 63, 88, 59, 80, 78 52, 73, 73, 64, 93, 73, 25, 64, 75, 68 93, 75, 34, 70, 91, 48, 84, 95, Kirjoittaminen (10 väittämää) Kielioppi (10 väittämää) Sanasto (10 väittämää) Taitotasojen vaihteluväli 2-4 2-4 Yhden tason poikkeaminen +/100, 93, 98, 100, 98, 100, 98, 100, 98, 95, 93, 100,100 81, 95, 91, 88, 88, 97, 88, 81, 77, 91, 100 2- 5 78, 93, 98, 90, 90, 90, 100, 95, 95, 100 2-3 89, 86, 100, 100, 100, 100, 100, 100, 100, 100 2-4 100, 100, 93, 100, 98, 91, 98, 100, 91, 100
  • 12. Taitotasojen asettamisen vaihe 1b Kielivaliokunnan ja sensoreiden tekemää työtä 1b) Tekstien ja tehtävien/Kirjoitussuoritusten arviointi viitekehysten taitotasokuvausten avulla ● Jokainen teksti ja tehtävä/osio arvioitiin erikseen ● Kirjoitussuoritukset suoraan viitekehyksen taitotasokuvausten avulla ja YTL-pisteasteikolla
  • 13. Taitotasojen asettamisen vaihe 2 Taitotasojen asettamiseen perehtyneiden asiantuntijoiden ja aktuaarin tekemä työ ● Vaiheessa 1 tuotetun datan syöttäminen ● Valmiina olevan datan hyödyntäminen (esim. osioiden ratkaisuprosentit) ● Tilastolliset ajot ja testit
  • 14. Osiotasoiset tulokset – englanti (ote, esimerkki tulostuksesta) Pitkä englanti: Osioiden koodi, koetyyppi, maksimipistemäärä, painokerroin, ratkaisuprosentti, taitotasoarviointien keskiarvo/mediaani/moodi, keskiarvon keskivirhe sekä eurooppalaisen viitekehyksen ja opetussuunnitelman mukainen taitotaso. Osio Ma x PaiKoodi tyyp pist no pi . Arv_ Arv_ Arv_ KeskiOps Ratk media moodi virhe Viitek. _tas k-arvo .% ani taso ot KY1 MV 1 1 54,7 KY2 MV 1 1 89,8 KY3 MV 1 1 81,6 KY4 MV 1 1 62,6 KY5 MV 1 1 59,5 9,96 7 7 0,16 5,45 5 5 0,14 8,92 7 7 0,18 8,60 7 7 0,14 8,44 7 7 0,19 B2/C1 A2/B1 B1 B2 B2/C1 B2.2 A2.2 B1.1 B2.1 B2.2
  • 16. Tutkimuskysymys 1. ● Mikä on Ylioppilastutkinnon kielikokeiden vaikeustaso verrattuna LOPSin taitotasoihin?
  • 17. Kokeiden vaikeustaso vs. Lukion opetussuunnitelman perusteiden tavoitetaso Suhteellisesti helpoin Keskipitkä suomi Keskipitkä ruotsi Suhteellisesti vaikein Pitkä englanti Lyhyt ranska Lyhyt saksa
  • 18. Taulukko 14. Pitkän englannin kokeen osioiden jakautuminen taitotasoille Osataito Kuullun ymmärtäminen/30 osiota Luetun ymmärtäminen/ 30 osiota Sanasto ja rakenteet/ 40 osiota Osioita/100 % osioista Osiot Alle A2.2 n A2.2 B1.1 B1.2 B2.1 B2.2 4 7 8 7 4 % n 13,3 4 23,3 8 26,7 5 23,3 9 13,3 2 13,3 6 26,7 12 16,7 8 30,0 4 6,7 2 8 15,0 14 14,0 30,0 27 27,0 20,0 21 21,0 10,0 20 20,0 5,0 8 8,0 20,0 8 8,0 % n % n % 2 6,7 2 2,0 Yli B2.2
  • 19. Taulukko 15. Keskipitkän ruotsin kokeen osioiden jakautuminen taitotasoille Osataito Kuullun ymmärtäminen / 30 osiota Luetun ymmärtäminen / 30 osiota Sanasto ja rakenteet/ 30 osiota Osioita/90 % osioista Osiot A2.2 B1.1 B1.2 n % Alle A2.2 3 10,0 16 53,3 7 23,3 3 10,0 Yli B1.2 1 3,3 n % 7 23,3 11 36,7 9 30,0 1 3,3 2 6,7 n % 4 13,3 14 46,7 8 26,7 4 13,3 n % 14 15,6 41 45,6 24 26,7 8 8,9 3 3,3
  • 20. Taulukko 16. Keskipitkän suomen kokeen osioiden jakautuminen taitotasoille Osataito Osio t A2.2 B1.1 B1.2 n % Alle A2. 2 8 32,0 Kuullun ymmärtämine n/ 25 osiota Luetun ymmärtämine n/ 30 osiota Sanasto ja rakenteet/ 25 osiota Osioita/80 % osioista 11 44,0 5 20,0 1 4,0 n % 6 20,0 17 56,7 6 20,0 1 3,3 n % 3 12,0 13 52,0 6 24,0 n % 17 21,3 41 51,3 17 21,3 Yli B1.2 3 12,0 2 2,5 3 3,8
  • 21. Osataito Osiot Alle A2.1 A2.1 A2.2 B1.1 Yli B1.1 Taulukko 17. Lyhyen ranskan kokeen osioiden jakautuminen taitotasoille Kuullun ymmärtämine n/ 30 osiota n 8 8 7 5 2 % 26,7 26,7 23,3 16,7 6,7 Luetun ymmärtämine n/ 30 osiota n 9 7 8 6 % 30,0 23,3 26,7 20,0 Sanasto rakenteet/ 30 osiota n 4 12 8 3 3 % 13,3 40,0 26,7 10,0 10,0 Osioita/90 n 21 27 23 14 5 % osioista % 23,3 30,0 25,6 15,6 5,6 ja
  • 22. Osataito Osio Taulukko 18. LyhyenAlle A2.1 kokeen saksan A2.2 B1.1 t A2.1 Kuullun n 7 9 5 9 osioiden jakautuminen taitotasoille ymmärtäminen/ 30 osiota Luetun ymmärtäminen/ 30 osiota Sanasto ja rakenteet/ 26 osiota Osioita/86 % osioista Yli B1.1 % 23,3 30,0 16,7 30,0 n % 11 36,7 6 20,0 10 33,3 2 6,7 1 3,3 4 15,4 9 34,6 10 38,5 3 11,5 19 22,1 24 27,9 21 24,4 4 4,7 n % n % 18 20,9
  • 23. Tutkimuskysymys 2. ● Mitkä ovat Ylioppilastutkinnon kielikokeissa saavutetut taitotasot?
  • 24. Kuvio 2. Kokelaiden jakaumat kielittäin eri taitotasoille keväällä 2012 80 70 60 50 Pitkä englanti Keskipitkä ruotsi 40 Keskipitkä suomi Lyhyt ranska Lyhyt saksa 30 20 10 0 Alle A2.1 A2.1 A2.2 B1.1 B1.2 B2.1 B2.2 Yli B2.2
  • 25. Kuvio 3. Prosentuaaliset taitotasojakaumat keskipitkässä ruotsissa ja keskipitkässä suomessa 80 70,2 65,5 70 60 50 40 28,8 23,3 30 20 10 3 4,3 2,8 0 Alle A2.2 A2.2 Keskipitkä ruotsi B1.1 Keskipitkä suomi Yli B1.1 2,4
  • 26. Taulukko 22. Eri oppimäärien kirjoittajien osuudet lyhyessä ranskassa ja lyhyessä saksassa keväällä 2012 Oppim äärä Lyhyt ranska Lyhyt saksa n n % % A 118 9,9 293 16,9 B1 B2 16 507 1,3 42,4 13 757 0,8 43,8 B3 442 37,0 548 31,7 Ei tietoa Yht. 113 9,4 119 6,9 1196 100,0 1730 100,0
  • 27. Kuvio 4. Prosentuaaliset taitotasojakaumat lyhyessä ranskassa ja lyhyessä saksassa 60 52,5 52,6 50 40 34,4 29,8 30 20 13 9,5 10 0,9 3,7 1 0 Alle A2.1 A2.1 A2.2 Lyhyt ranska B1.1 Lyhyt saksa Yli B1.1 2,5
  • 28. Tutkimuskysymys 3. ● Mikä on Ylioppilastutkinnon kielikokeiden arvosanojen ja opetussuunnitelman perusteiden taitotasojen vastaavuus?
  • 29. Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman perusteiden (2003) taitotasojen vastaavuus Kieli Tavoitetaso Arvosana Keskipitkä suomi B1.1/B1.2 Eximia cum laude Keskipitkä ruotsi B1.1/B1.2 Magna cum laude Pitkä englanti B2.1 Cum laude Lyhyt ranska A2.1/A2.2 Approbatur/ Lubenter Lyhyt saksa A2.1/A2.2 Approbatur/ Lubenter
  • 30. Taulukko 29. Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman perusteiden (2003) taitotasojen vastaavuus kevään 2012 tutkinnossa vertailussa tietyn arvosanan laskennalliseen tavoitetasoon (LOPStavoitetaso varjostettu) Kieli Pitkä K-2012 englanti Lask. Keskipit K-2012 kä ruotsi Lask. Keskipit K-2012 kä suomi Lask. Approba Lubenter tur Matala Vahva B1.2 B1.2 Cum laude Magna Eximia Matala B2.1 Vahva B2.1 Vahva 2.1/ Vahva B2.2/Yli Matala B2.2 B2.2 Vahva B1.1 B1.2 Matala B2.1 Vahva B2.1 Vahva A2.2 Matala B1.1 Vahva A2.2 Matala B1.1 Keskitasoine Vahva n A2.2 A2.2 Vahva A2.2 Matala B1.1 Matala B2.2 Vahva B2.2 Matala A2.2 Matala A2.2 Matala A2.2 Matala A2.2 Keskitasoinen A2.2 Keskitasoinen A2.2 Keskitasoi-nen A2.2 Keskitasoinen A2.2 Laudatur Keskitasoi- Vahva B1.1/ nen B1.1 B1.2 Vahva B1.1 B1.2 Matala B1.1 Vahva B1.1/ B1.2 Vahva B1.1 B1.2/Vahva B1.1
  • 31. Taulukko 29. Eri kielten yo-arvosanojen ja Lukion opetussuunnitelman perusteiden (2003) taitotasojen vastaavuus kevään 2012 tutkinnossa vertailussa tietyn arvosanan laskennalliseen tavoitetasoon (LOPStavoitetaso varjostettu) Kieli Lask. Approbatu Lubenter r Keskitasoi Vahva nen A2.1 A2.1/Matala A2.2 Matala A2.1 Vahva A2.1 K-2012 Vahva A2.1 Lask. Matala A2.1 Vahva A2.1 Lyhyt K-2012 ranska Lyhyt saksa Matala A2.2 Cum laude Magna Eximia Laudatu r Keskitasoine Vahva A2.2/ Keskitasoi- Vahva n/Vahva A2.2 Matala B1.1 nen/ B1.1/ Vahva B1.1 B1.2 Matala A2.2 Vahva A2.2 Matala B1.1 Vahva B1.1 Vahva A2.2 Vahva A2.2/ Vahva B1.1 Vahva Matala B1.1 B1.1/ B1.2 Matala A2.2 Vahva A2.2 Matala B1.1 Vahva B1.1
  • 32. Kuvio 5.Yo-arvosanojen ja taitotasoarvosanojen jakaumat pitkässä englannissa 35 30 25 20 15 10 5 0 i a b c Yo-arvosana m Taitotasoarvosana e l
  • 33. Kuvio 6.Yo-arvosanojen ja taitotasoarvosanojen jakaumat keskipitkässä ruotsissa 30 25 20 15 10 5 0 i a b c Yo-arvosana m Taitotasoarvosana e l
  • 34. Kuvio 7.Yo-arvosanojen ja taitotasoarvosanojen jakaumat keskipitkässä suomessa 30 25 20 15 10 5 0 i a b c yo-arvosana m taitotaso e l
  • 35. Kuvio 8.Yo-arvosanojen ja taitotasoarvosanojen jakaumat lyhyessä ranskassa 30 25 20 15 10 5 0 i a b c Yo-arvosana m Taitotasoarvosana e l
  • 36. Kuvio 9.Yo-arvosanojen ja taitotasoarvosanojen jakaumat lyhyessä saksassa 40 35 30 25 20 15 10 5 0 i a b c Yo-arvosana m Taitotasoarvosana e l
  • 38. Kehittämistarpeita 1) Arvostelun kehittäminen: - suhteellinen arvostelu ei toimi kielikokeissa ja eri kielten arvosanat eivät vertailukelpoisia keskenään: lyhyissä kielissä vaatimustaso hyvään arvosanaan kohtuuton verrattuna lukion tavoitetasoon - taitotasoperustainen arviointi yo-arvosanan rinnalle, arvosanamerkintä esim. tyyliin: ● Englanti (pitkä oppimäärä), laudatur (B2) 2) Kokeiden vaikeustason laadunvarmistus: sähköistämisen myötä siirtyminen osiopankkipohjaiseen testaukseen, myöhemmin adaptiiviseen testaukseen 3) Opetussuunnitelmatyö ja opetuksen kehittäminen: erityisesti Lukion opetussuunnitelmien perusteiden mahdolliset tarkistustarpeet tavoitetasojen osalta ja opetuksen kehittäminen
  • 39. Kehittämistyön seuraavat askeleet Jo sovittu • Uuden laskentamallin käyttö arvosanoja jaettaessa keväästä 2014 alkaen (kaikissa aineissa) • Pitkässä englannissa ja keskipitkässä ruotsissa taitotasoarvio yo-arvosanan lisäksi mahdollisesti keväästä 2014 alkaen Myöhemmin • Kokonaisvaltaisen kielikokeiden kehittämissuunnitelman laatiminen • Nyt tutkimuksen ulkopuolelle jääneiden oppimäärien vertaaminen • Tutkimus- ja kehittämistyötä yhdessä tutkijoiden ja opettajien kanssa • Suullisen kielitaidon osakoe viimeistään 2019
  • 40. Lisätietoja Tutkijayliopettaja Taina Juurakko-Paavola, sposti taina.juurakkopaavola@hamk.fi Professori (emer.) Sauli Takala, sposti sjtakala@hotmail.com