WO2021199937A1 - 金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置 - Google Patents

金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置 Download PDF

Info

Publication number
WO2021199937A1
WO2021199937A1 PCT/JP2021/009006 JP2021009006W WO2021199937A1 WO 2021199937 A1 WO2021199937 A1 WO 2021199937A1 JP 2021009006 W JP2021009006 W JP 2021009006W WO 2021199937 A1 WO2021199937 A1 WO 2021199937A1
Authority
WO
WIPO (PCT)
Prior art keywords
phase
metal structure
imaging
feature value
metal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2021/009006
Other languages
English (en)
French (fr)
Inventor
直哉 清兼
美絵 小幡
石川 伸
孝子 山下
武志 西山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JFE Steel Corp
Original Assignee
JFE Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JFE Steel Corp filed Critical JFE Steel Corp
Priority to EP21782081.0A priority Critical patent/EP4131159A4/en
Priority to KR1020227036044A priority patent/KR102808719B1/ko
Priority to JP2021533827A priority patent/JP7173345B2/ja
Priority to US17/915,126 priority patent/US12106466B2/en
Priority to CN202180025636.XA priority patent/CN115398228B/zh
Publication of WO2021199937A1 publication Critical patent/WO2021199937A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N1/00Sampling; Preparing specimens for investigation
    • G01N1/28Preparing specimens for investigation including physical details of (bio-)chemical methods covered elsewhere, e.g. G01N33/50, C12Q
    • G01N1/32Polishing; Etching
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/20Metals
    • G01N33/204Structure thereof, e.g. crystal structure
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/70Labelling scene content, e.g. deriving syntactic or semantic representations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N2021/1765Method using an image detector and processing of image signal
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30136Metal
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Definitions

  • the present invention relates to a method for determining imaging conditions for a metal structure, a method for photographing a metal structure, a method for classifying a phase of a metal structure, a device for determining a photographing condition for a metal structure, a device for photographing a metal structure, a phase classification device for a metal structure, and a material for a metal material.
  • the present invention relates to a property prediction method and a material property prediction device for metallic materials.
  • a metal material such as a steel plate has the same composition
  • its characteristics strongly depend on the metal structure of the scale (mm to ⁇ m scale) at the level of an optical microscope or an electron microscope. Therefore, when developing a high-strength steel plate, a method of changing the composition such as a method of utilizing solid solution strengthening by adding a solid solution strengthening element or a method of precipitation strengthening using a precipitate by adding a precipitation strengthening element is used.
  • a method of improving the mechanical properties by changing the finally realized metal structure by changing the heat treatment conditions with the same composition is used.
  • the metal material is observed with an optical microscope or an electron microscope, and the metal structure is quantified. It is important to evaluate. In fact, in the field of material development, microstructure observation of metal materials with different heat treatment conditions is carried out on a daily basis.
  • the ferrite phase and the martensite phase are observed with different contrasts, and both phases can be distinguished.
  • the volume fraction of each phase of the metal structure composed of the soft ferrite phase and the hard martensite phase and the shape of the metal structure change, and the mechanical properties change significantly. Therefore, material development is routinely performed in an attempt to realize the mechanical properties required as a material by controlling the volume fraction of each phase of the metal structure and the shape of the metal structure.
  • Identifying (classifying) and extracting a phase from an image of a metal structure is generally called “segmentation”, but in conventional segmentation, each phase of the tissue image is defined.
  • this method not only requires an enormous amount of time to analyze a single tissue image, but also recognizes the phase differently depending on the operator, so that there is a large error depending on the operator who performs the hand coating. .. Therefore, in reality, segmentation by hand coating is rarely performed, and the evaluation of the tissue image is limited to a qualitative evaluation.
  • a threshold value of the brightness value is set for the image data of the captured metal structure, and the image is converted using a computer or the like so as to have two colors, so that only a specific phase is extracted and each color is obtained. The phase fraction is measured by determining the area of.
  • This method can accurately classify the phases when the brightness values are clearly different for each phase of the metallographic structure.
  • the metallographic structure can be quantitatively evaluated much faster than the above-mentioned hand coating.
  • the difference in brightness value for each phase is not clear, and when the difference in brightness value is not clear, the error becomes large, so that it is not possible to classify accurately in many cases.
  • the brightness value depends on the etching time on the order of 10-2 s, which is difficult to control in the sample preparation performed before imaging with the metal material. Changes. Therefore, there is a problem that the binarization threshold value must be redetermined for each captured tissue image even if the phases are the same.
  • the brightness value of an image can be changed by changing the intensity of the light source.
  • the binarization threshold value must be redetermined for each photographer.
  • Patent Document 1 discloses the following techniques. First, the image of the part on the surface of the human body is converted into an image in the opposite color space, and each of the components in the opposite color space of the image in the opposite color space is decomposed into subband images having different spatial frequencies. Then, for this subband image, feature values corresponding to the parts on the surface of the human body are calculated, and the appearance of the parts on the surface of the human body is evaluated based on the feature values. By using this technique, it is possible to objectively and quickly evaluate the skin condition, texture, etc. from the image of human skin.
  • Patent Document 2 discloses the following techniques. First, a plurality of binarized images are generated by performing the binarization process a plurality of times while making the reference value for binarization different for one tissue image obtained by photographing the tissue. Subsequently, for each of the plurality of binarized images, the number of hole-shaped regions is calculated, and the number of features that characterizes the correspondence between the plurality of binarized reference values and the number of hole-shaped regions is specified. Then, the output information corresponding to this number of features is generated.
  • Patent Document 1 since the technique disclosed in Patent Document 1 is only a technique for evaluating the skin tissue, it is difficult to apply it to the structure of a metal material such as a steel plate. Furthermore, it is difficult to deal with contrast differences and the like that vary depending on etching conditions that are difficult to control. Similarly, the technique disclosed in Patent Document 2 is a technique for analyzing an image of a living cell, and it is difficult to apply it to an analysis of a tissue image whose contrast greatly fluctuates due to etching, such as a metal material. Is.
  • the present invention has been made in view of the above, and even when the imaging conditions vary depending on the etching conditions, the imaging means, or the photographer, the imaging of the metal structure capable of accurately classifying the phases of the metal structure is possible.
  • Condition determination method metal structure imaging method, metal structure phase classification method, metal structure imaging condition determination device, metal structure imaging device, metal structure phase classification device, material property prediction method for metal materials, and materials for metal materials It is an object of the present invention to provide a characteristic predictor.
  • the method for determining the imaging condition of the metal structure is a method for determining the imaging condition when photographing the metal structure of the metal material, and a predetermined sample preparation can be performed.
  • a photographing step of photographing a part of the metal structure of the metal material applied under predetermined photographing conditions and one or a plurality of predetermined phases of the metal structure with respect to the image photographed in the photographing step corresponds to a photographing step of photographing a part of the metal structure of the metal material applied under predetermined photographing conditions and one or a plurality of predetermined phases of the metal structure with respect to the image photographed in the photographing step.
  • the feature value with the label is input, and the feature value calculated in the feature value calculation step is input to the model learned in advance by using the label of each phase as the output, and the pixel corresponding to the input feature value is input.
  • the phase classification step of classifying the phase of the metal structure of the image and the imaging conditions for photographing the other part of the metal structure based on the classification result of the phase classification step can be obtained. It includes a step of determining shooting conditions to be determined.
  • the imaging step photographs a part of the metal structure under a plurality of predetermined imaging conditions, and the imaging condition determination step is performed.
  • the imaging condition that maximizes the classification accuracy of each phase in the phase classification step is determined as the imaging condition when photographing the other part of the metal structure.
  • the method for determining the imaging condition of the metal structure is a method for determining the imaging condition when photographing the metal structure of the metal material, and a predetermined sample preparation can be performed.
  • a photographing step of continuously photographing a part of the applied metal structure while changing the photographing conditions, a feature value calculation step of calculating one or more feature values of the image photographed in the photographing step, and the above-mentioned A feature calculated in the feature value calculation step for a model learned in advance by inputting a feature value of a pixel to which a predetermined one or more phase labels of the metal structure are attached and using the label of each phase as an output.
  • the imaging condition determination step of determining the imaging conditions when photographing the other part of the metal structure from the plurality of imaging conditions used in the imaging step is included.
  • the imaging condition determining step has the highest classification accuracy of each phase in the phase classification step among the imaging conditions used in the imaging step.
  • the imaging condition is determined as an imaging condition when photographing other parts of the metal structure.
  • the imaging conditions include at least one of a contrast value, a brightness value, and an intensity of a light source.
  • the metal material is roughly polished and then buffed using a polishing material of 0.05 ⁇ m to 2 ⁇ m. It includes a polishing step and an etching step of etching the metal material with a nital solution having a nitrate concentration of 0.5% to 8%, which is prepared by mixing ethanol and nitric acid.
  • the method for photographing a metal structure according to the present invention comprises, after the above-mentioned method for determining imaging conditions for a metal material, the other part of the metal structure of the metal material. Shoot under the shooting conditions determined by the shooting condition determination method.
  • the phase classification method of the metal structure according to the present invention photographs the metal structure by the above-mentioned method of photographing the metal structure and classifies the phase of the metal structure of the metal structure. do.
  • the imaging condition determining device for a metal structure is an imaging condition determining device for photographing the metal structure of a metal material, and a predetermined sample preparation can be performed.
  • a photographing unit that photographs a part of the metal structure of the metal material that has been applied under predetermined imaging conditions, and an image photographed by the imaging unit correspond to one or more predetermined phases of the metal structure.
  • a phase designation unit that assigns a label for each phase to a pixel to be used, a feature value calculation unit that calculates one or more feature values for a pixel to which a label for each phase is assigned by the phase designation unit, and a feature value calculation unit for each phase.
  • the feature value with the label is input, the feature value calculated by the feature value calculation unit is input to the model learned in advance by using the label of each phase as the output, and the pixels corresponding to the input feature value are input.
  • the phase classification unit that classifies the phase of the metal structure of the image and the imaging conditions for photographing other parts of the metal structure based on the classification result of the phase classification unit can be obtained. It is provided with a shooting condition determination unit for determining.
  • the imaging condition determining device for a metal structure is an imaging condition determining device for photographing the metal structure of a metal material, and a predetermined sample preparation can be performed.
  • An imaging unit that continuously photographs a part of the applied metal structure while changing the imaging conditions, a feature value calculation unit that calculates one or more feature values for an image captured by the imaging unit, and the above.
  • a shooting condition determining unit for determining a shooting condition when photographing the other part of the metal structure from a plurality of shooting conditions used in the shooting unit is provided.
  • the metal structure imaging apparatus captures other parts of the metal structure of the metal material under the imaging conditions determined by the imaging condition determining apparatus. Take a picture below.
  • the metal structure phase classification device photographs the metal structure by the above-mentioned metal structure imaging device and classifies the phases of the metal structure of the metal structure. do.
  • the material property prediction method for a metal material is a material property prediction method for a metal material that predicts the material property of the metal material, and has the above-mentioned metal structure.
  • a quantitative evaluation step of calculating the quantitative evaluation value of the metal structure by calculating the size, area ratio or shape of each classified phase, the quantitative evaluation value, and the quantitative evaluation value are prepared in advance.
  • the material property prediction device for a metal material is a material property prediction device for a metal material that predicts the material properties of the metal material, and is a phase of the metal structure.
  • An input unit for inputting an image in which the classification has been performed, a quantitative evaluation unit for calculating a quantitative evaluation value of a metal structure by calculating the size, area ratio, or shape of each classified phase, and the quantitative evaluation value.
  • a data recording unit that records data in a database
  • a data selection unit that selects data to be used for predicting the material properties of the metal material from the quantitative evaluation values and the material properties of the metal material recorded in the database.
  • a model generation unit that generates a prediction model that predicts the material properties of the metal material using the selected data, and a material property prediction unit that predicts the material properties of the metal material using the generated prediction model. It is provided with an output unit that outputs the material properties of the metal material.
  • the method for determining the imaging condition of the metal structure the method for photographing the metal structure, the method for classifying the phase of the metal structure, the apparatus for determining the imaging condition of the metal structure, the apparatus for photographing the metal structure, and the phase classification device for the metal structure according to the present invention, the following It has an effect like. That is, in segmentation for classifying the phases of important metal structures that have a great influence on various material properties such as mechanical properties and corrosion properties, even when the photographing conditions vary depending on the etching conditions, the photographing means, or the photographer. The phases of the metallographic structure can be classified accurately. In addition, it is possible to determine the imaging conditions that can be evaluated quantitatively.
  • the material property prediction method for metal materials and the material property prediction device for metal materials according to the present invention quantitative evaluation can be efficiently performed from the classification result of the phase of the metal structure. Therefore, the material properties of the metal material can be accurately predicted by deriving the correlation between the quantitative evaluation value and the material properties of the metal material. As a result, the material properties of the metal material can be grasped at the same time as viewing the image of the metal structure, so that the efficiency of the development of the metal material (for example, a steel plate) can be improved.
  • FIG. 1 is a block diagram showing a schematic configuration of an imaging condition determining device and an imaging device for a metal structure according to the first embodiment of the present invention.
  • FIG. 2 is a flowchart showing a method for determining shooting conditions and a flow of the shooting method according to the first embodiment of the present invention.
  • FIG. 3 is a diagram showing a microstructure photograph of a DP steel sheet taken using a scanning electron microscope and a luminance value profile on the line L1.
  • FIG. 4 is a block diagram showing a schematic configuration of an imaging condition determining device and an imaging device for a metal structure according to a second embodiment of the present invention.
  • FIG. 5 is a flowchart showing a method for determining shooting conditions and a flow of the shooting method according to the second embodiment of the present invention.
  • FIG. 1 is a block diagram showing a schematic configuration of an imaging condition determining device and an imaging device for a metal structure according to the first embodiment of the present invention.
  • FIG. 2 is a flowchart showing a method
  • FIG. 6 is a block diagram showing a schematic configuration of a material property prediction device for a metal material according to an embodiment of the present invention.
  • FIG. 7 is a flowchart showing a flow of a material property prediction method for a metal material according to an embodiment of the present invention.
  • FIG. 8 is an example of a method for determining imaging conditions and an imaging method according to the first embodiment of the present invention, and is a diagram showing a phase of a metal structure designated when constructing a database.
  • FIG. 9 is an example of a method for determining imaging conditions and an imaging method according to the first embodiment of the present invention, and is a diagram showing a phase of a metal structure designated in the phase designation step.
  • FIG. 8 is an example of a method for determining imaging conditions and an imaging method according to the first embodiment of the present invention, and is a diagram showing a phase of a metal structure designated in the phase designation step.
  • FIG. 10 is an example of a method for determining imaging conditions and an imaging method according to the first embodiment of the present invention, and is a diagram showing the results of classification in the phase classification step.
  • the region which was correctly classified is shown in gray.
  • FIG. 11 shows an example of the imaging condition determination method and the imaging method according to the first embodiment of the present invention, in which the tissue images captured by adjusting the contrast value in the second imaging step are classified by the phase classification step. It is a figure which shows the phase of the metal structure.
  • FIG. 12 is a comparative example of the imaging condition determination method and the imaging method according to the first embodiment of the present invention, in which the microstructure image captured without adjusting the contrast value is classified in the phase classification step. It is a figure which shows.
  • FIG. 13 shows an example of the imaging condition determination method and the imaging method according to the second embodiment of the present invention, in which the contrast value of the sample prepared by the method A is changed in the first imaging step. It is a figure which shows the tissue image which was taken continuously, and the phase classification image corresponding to the tissue image.
  • FIG. 14 shows an example of the imaging condition determination method and the imaging method according to the second embodiment of the present invention, in which the contrast value of the sample prepared by the method B is changed in the first imaging step. It is a figure which shows the tissue image which was taken continuously, and the phase classification image corresponding to the tissue image.
  • FIG. 14 shows an example of the imaging condition determination method and the imaging method according to the second embodiment of the present invention, in which the contrast value of the sample prepared by the method B is changed in the first imaging step. It is a figure which shows the tissue image which was taken continuously, and the phase classification image corresponding to the tissue image.
  • FIG. 15 is a comparative example of the imaging condition determination method and the imaging method according to the second embodiment of the present invention, and shows a tissue image captured without changing the contrast value and a phase classification image corresponding to the tissue image. It is a figure which shows.
  • FIG. 16 is an example of the material property prediction method for a metal material according to the present invention, and is a diagram showing a histogram of the roundness of the ferrite phase and the martensite phase calculated from the microstructure image of FIG. 11A. ..
  • FIG. 17 is an example of the material property prediction method for a metal material according to the present invention, and is a diagram showing a histogram of the roundness of the ferrite phase and the martensite phase calculated from the microstructure image of FIG. 11 (b). ..
  • FIG. 18 is an example of the material property prediction method for a metal material according to the present invention, and is a diagram showing a prediction result of tensile strength by a prediction model (neural network model) generated by the prediction
  • the method for determining the imaging condition of the metal structure and the imaging condition determining device provide important information for controlling the characteristics of the metal material used as a material for various products such as structural members and automobile members. It is a method and an apparatus for determining the imaging conditions of a metal structure when learning the phase of the metal structure. Further, the method and apparatus for photographing a metal structure according to the present embodiment are a method and an apparatus for photographing a metal structure under the imaging conditions determined by the imaging condition determining method and the imaging condition determining apparatus.
  • the metal material used in this embodiment is, for example, a DP steel sheet composed of a ferrite phase and a martensite phase.
  • the imaging condition determination method and the imaging method using these devices and the model generation method will be described.
  • the material property prediction method using this device will be described.
  • the shooting condition determination device 1 includes a shooting unit 10, a storage unit 20, a calculation unit 30, and an output unit 40.
  • the photographing apparatus according to the present embodiment is realized by the same configuration as the photographing condition determining device 1 shown in the figure.
  • the photographing unit 10 is a means for taking a tissue image of a metal material and inputting it to the calculation unit 30.
  • the photographing unit 10 is composed of a known photographing device such as an optical microscope or a scanning electron microscope widely used for photographing a tissue image, for example.
  • the storage unit 20 is composed of a recording medium such as an EPROM (Erasable Programmable ROM), a hard disk drive (Hard Disk Drive: HDD), a solid state drive (Solid State Drive: SSD), and removable media.
  • a recording medium such as an EPROM (Erasable Programmable ROM), a hard disk drive (Hard Disk Drive: HDD), a solid state drive (Solid State Drive: SSD), and removable media.
  • removable media include disc recording media such as USB (Universal Serial Bus) memory, CD (Compact Disc), DVD (Digital Versatile Disc), and BD (Blu-ray (registered trademark) Disc).
  • the storage unit 20 can store an operating system (Operating System: OS), various programs, various tables, various databases, and the like.
  • OS Operating System
  • the arithmetic unit 30 is realized by, for example, a processor including a CPU (Central Processing Unit) and a memory (main storage unit) including a RAM (Random Access Memory) and a ROM (Read Only Memory).
  • the arithmetic unit 30 loads the program into the work area of the main storage unit, executes the program, and controls each component or the like through the execution of the program to realize a function that meets a predetermined purpose.
  • the calculation unit 30 functions as a phase designation unit 31, a feature value calculation unit 32, a phase classification unit 33, and a shooting condition determination unit 34 through the execution of the above-mentioned program. The details of each part will be described later.
  • the output unit 40 is an output means for outputting the calculation result by the calculation unit 30.
  • the output unit 40 is composed of, for example, a display, a printer, a smartphone, or the like.
  • the output unit 40 is, for example, a phase of the metal structure designated by the phase designation unit 31, a feature value of the phase of the metal structure calculated by the feature value calculation unit 32, and a result of classifying the phase of the metal structure by the phase classification unit 33.
  • the shooting conditions and the like determined by the shooting condition determination unit 34 are output.
  • the output format of the output unit 40 is not particularly limited, and data such as a text file or an image file or a format projected onto an output device may be output.
  • a method of determining shooting conditions using the shooting condition determining device 1 and a shooting method using the shooting device will be described with reference to FIG.
  • the imaging condition determination method the polishing step S1, the etching process S2, the first imaging process S3, the phase designation process S4, the feature value calculation process S5, the phase classification process S6, and the imaging condition determination step S7 are included. In this order. Further, in the photographing method, a second photographing step S8 is performed after each step of the photographing condition determining method. Hereinafter, each step will be described.
  • polishing step S1 rough polishing and finish polishing are sequentially performed on the metal material to be observed.
  • rough polishing for example, a commercially available sandpaper obtained by applying abrasive grains to paper is used to remove scratches visible to the naked eye.
  • finish polishing buffing is performed using a polishing material having a thickness of 0.05 ⁇ m to 2 ⁇ m.
  • abrasive a known abrasive such as diamond or silica can be used.
  • finish polishing buffing is performed until scratches disappear when observed with an optical microscope at a magnification of 10 to 500 times, for example.
  • polishing is performed so as not to leave scratches as much as possible.
  • buffing is preferably performed because scratches become invisible when observed with an optical microscope at a magnification of 1000 or less.
  • ⁇ Etching process S2> In metal materials, the amount of corrosion differs depending on the phase such as the ferrite phase or the martensite phase. Therefore, by etching, it is possible to add contrast to each phase and classify the phases.
  • a nital solution having a nitric acid concentration of 0.5% to 8% which was prepared by mixing ethanol and nitric acid, was used to prepare a metal material (sample) into a nital solution for 0.5 s to 10.0 s. After soaking, it is washed with distilled water.
  • the nital solution may be sprayed onto the metal material by mist blowing, and after 0.5 s to 10.0 s have elapsed, the metal material may be washed with distilled water. Further, in the etching step S2, instead of immersing the metal material in the nital solution, the nital solution is attached to the metal material using a soft cloth such as gauze, and after 0.5 s to 10.0 s have elapsed, the metal material is washed with distilled water. You may.
  • the etching step S2 it is preferable to perform etching under the conditions that the nitric acid concentration difference from the etching solution in the etching step when the model is generated is less than 0.1% and the immersion time difference is less than 2.0 s. This makes it possible to improve the classification accuracy (reduce the classification error) in the phase classification step S6 described later.
  • First shooting step S3> In the first photographing step S3, the photographing unit 10 previously prepares a part of the metal structure of the metal material (a part of the view of the metal structure) that has undergone predetermined sample preparation (the polishing step S1 and the etching step S2). Shoot under the specified shooting conditions.
  • the above-mentioned "photographing condition” includes a contrast value and a brightness value when the photographing unit 10 is a scanning electron microscope, and includes the intensity of a light source when the photographing unit 10 is an optical microscope.
  • the first photographing step S3 specifically, a part of the metal structure is photographed under a plurality of predetermined photographing conditions. That is, when the photographing unit 10 is a scanning electron microscope, a plurality of images of the same portion of the metal structure are taken while changing the contrast value or the brightness value. When the photographing unit 10 is an optical microscope, a plurality of images of the same portion of the metal structure are photographed while changing the intensity of the light source.
  • phase designation unit 31 assigns a label for each phase to the pixels corresponding to one or a plurality of predetermined phases of the metal structure in the structure image taken in the first photographing step S3. Specify the phase by. "Giving a label for each phase to the pixels of each phase of the structure image” means, for example, in the case of a DP steel plate, the pixels corresponding to the ferrite phase and the martensite phase are specified in the structure image, and the pixels of the structure image and ferrite are used. It shows that the phase and the martensite phase are associated with each other (see FIG. 8).
  • each phase may be designated by specifying a plurality of points for each pixel of the tissue image, or by enclosing a size of about the crystal grain size. Further, in the phase designation step S4, in order to improve the phase classification accuracy (reduce the classification error) in the second photographing step S8 described later, it is preferable to designate two or more regions of each phase in a plane.
  • the feature value calculation unit 32 calculates one or more feature values for the pixels labeled with each phase in the phase designation step S4. For example, one or more of the following feature values (1) to (8) are calculated.
  • Identity feature value is a feature value indicating the brightness value itself of the tissue image.
  • the Mean feature value is a feature value indicating an average value of brightness values in a predetermined range of a tissue image. That is, the Mean feature value is obtained by extracting a predetermined range "number of pixels x x number of pixels y" from each phase of the tissue image and averaging the brightness values in the range.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the "number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size. It is preferable that the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also spherical.
  • the Mean feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • the "noise contained in the tissue image” indicates, for example, a portion of the tissue image in which the brightness value suddenly increases (see, for example, part A in FIG. 3B). And, “making the number of pixels x and y larger than the noise” means that the width of the noise (see part B in (b) of the same figure) is made larger.
  • FIG. 3A shows a tissue image (original image) taken with a scanning electron microscope
  • FIG. 3B shows a line profile of the brightness value of the central portion (position of the L1 line) of the tissue image. ing.
  • the Gaussian feature value is a feature value indicating an average value of luminance values whose weight is increased toward the center in a predetermined range of a tissue image. That is, the Gaussian feature value is obtained by extracting a predetermined range "number of pixels x x number of pixels y" from each phase of the tissue image and extracting an average value having a larger weight toward the center pixel.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes.
  • the "number of pixels x" and the “number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size. It is preferable that the range includes a size less than. When there is anisotropy, it is preferable to set the size of the crystal grain size in each of the x-direction and the y-direction. Further, the region of x-pixel ⁇ y-pixel does not have to be rectangular. For example, when the tissue image has a spherical shape, it is preferable that the region of x-pixel ⁇ y-pixel is also spherical.
  • the Gaussian feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • the operator can arbitrarily set how much weight should be given to the central pixel, but the Gaussian function shown in the following equation (1) can be used. preferable.
  • ⁇ x and ⁇ y of the above equation (1) can be expressed as the following equations (2) and (3).
  • the Median feature value is a feature value indicating the center value of the brightness value in a predetermined range of the tissue image. That is, the Median feature value is obtained by extracting a predetermined range "number of pixels x x number of pixels y" from each phase of the tissue image and extracting the center from the brightness value in the predetermined range.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the “number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size.
  • the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also spherical.
  • the Median feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • Max feature value is a feature value indicating the maximum value of the brightness value in a predetermined range of the tissue image. That is, the Max feature value is obtained by extracting a predetermined range "number of pixels x x number of pixels y" from each phase of the tissue image and extracting the maximum value from the brightness value in the predetermined range.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the "number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size.
  • the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also spherical.
  • the Max feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • the Min feature value is a feature value indicating the minimum value of the brightness value in a predetermined range of the tissue image. That is, the Min feature value is obtained by extracting a predetermined range "number of pixels x x number of pixels y" from each phase of the tissue image and extracting the minimum value from the luminance value in the predetermined range.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the “number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size.
  • the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also spherical.
  • the Min feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • Derivative feature value For the Derivative feature value, a predetermined range "number of pixels x x number of pixels y" is extracted from each phase of the tissue image, and the differential values in the x and y directions are calculated for the pixels at the ends thereof. The feature value is calculated for each direction.
  • the "number of pixels x" and the “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the “number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size. It is preferable that the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also preferably spherical, and is differentiated in a plurality of directions. It is desirable to calculate the value. Further, the Derivative feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • Derivative addition feature value is any of the above-mentioned Mean feature value, Gaussian feature value, Media feature value, Max feature value, and Min feature value with respect to the above-mentioned Derivative feature value, or from these. Derivative feature values in one direction or a plurality of directions are added by calculating a plurality of selected feature values.
  • the above-mentioned "number of pixels x" and “number of pixels y" may be the same size or different sizes. Further, the "number of pixels x" and the "number of pixels y" are, for example, 1/2 of the crystal grain size of the plurality of phases of the metal structure, which is larger than the noise contained in the structure image and has the smaller crystal grain size.
  • the range includes a size less than.
  • the region of x-pixel ⁇ y-pixel does not have to be rectangular.
  • the region of x-pixel ⁇ y-pixel is also spherical.
  • the Derivative addition feature value may be calculated for a plurality of pixels x and y. If the pixel range is made too large, it will be affected by grain boundaries and other adjacent phases. Therefore, it is preferable that the pixel range includes a size of less than 1/2 of the crystal grain size of the larger crystal grain size.
  • the above-mentioned feature values (1) to (8) perform calculations on a large number of pixels in each phase, they have different feature values even if they are in the same phase, and the features for each phase. You can create a histogram of values. Further, all of the above feature values (1) to (8) may be calculated, or only a part of the feature values may be calculated. Further, a feature value that combines the operations of each feature value may be added, and a feature value not listed above may be added as needed. These selections are preferably made by the operator so as to improve the classification accuracy of the phases, and it is preferable to adopt the feature values having a large difference in the feature values of each phase.
  • the predetermined range "number of pixels x x number of pixels y" is taken out and the feature value is calculated. This "number of pixels x x number of pixels y" is calculated. The feature value convoluted with respect to the central pixel of "" is calculated. Then, the feature value of each position is calculated while moving "the number of pixels x x the number of pixels y" on the tissue image. Further, when “the number of pixels x x the number of pixels y" is located at the edges (upper, lower, left, and right edges) on the tissue image, a boundary condition is imposed or the number of pixels is limited from the center to the edge. Calculate the value.
  • the feature value is calculated by extrapolating from the center to the outside using an interpolation function such as a linear function, an exponential function, or a spline function.
  • phase classification unit 33 performs segmentation using a pre-generated model (for example, a decision tree). That is, in the phase classification step S6, the feature value with the label of each phase is input, and the label of each phase is used as the output to calculate the pre-learned model (for example, a decision tree) in the feature value calculation step S5. Enter the feature value. Then, by acquiring the label of the phase of the pixel corresponding to the input feature value, the phase of the metal structure of the structure image is classified.
  • a pre-generated model for example, a decision tree
  • the imaging condition determination unit 34 determines other parts of the metal structure (other parts of the metal structure) different from the portion photographed in the first imaging step S3 based on the classification result of the phase classification step S6. Determine the shooting conditions when shooting the field of view).
  • the imaging condition determination step S7 specifically, among the plurality of imaging conditions used in the first imaging step S3, the imaging conditions in which the classification accuracy of each phase in the phase classification step S6 is the highest are set to other imaging conditions of the metal structure. It is decided as a shooting condition when shooting the part of.
  • the shooting conditions are determined so that the weighted average correct answer rate obtained by weighting the correct answer rates of the two phases (ferrite phase and martensite phase) is maximized. If the correct answer rate of one of the two phases is more important, the weight given to the correct answer rate of the one phase is increased. When the correct answer rates of both phases are equalized, the weights given to the correct answer rates of both phases are set to the same value.
  • the imaging conditions are selected so that the phase specified in the phase designation step S4 is classified with an accuracy of 80% or more.
  • the imaging conditions are selected so that they are classified with an accuracy of 95% or more.
  • a method other than the method of classifying using the model consisting of the decision tree described above may be used.
  • the phases are classified by calculating the inner product of the feature vector consisting of the feature values. May be good.
  • ⁇ Second shooting step S8> the photographing unit 10 photographs the other part of the metal structure under the photographing conditions determined in the photographing condition determining step S7. This is the end of this flow.
  • the phase classification step S6 described above is performed on the photographed tissue image to classify the phase of the metal structure of the structure image.
  • the feature value calculation result may be output from the output unit 40.
  • the output format at that time is not particularly limited, and may be output in either a text file (for example, a set of numerical values) or an image file (for example, a histogram image, a tissue image showing feature values).
  • the phase classification result may be output from the output unit 40.
  • the output format at that time is not particularly limited, and either a text file or an image file (for example, an image in which the classified phases are color-coded with respect to the tissue image (hereinafter referred to as "phase classification image")) is used. You may output it.
  • the phase classification image may be output from the output unit 40 by superimposing it on the tissue image photographed in the first photographing step S3 or by arranging it side by side with the tissue image.
  • Model generation method The method for determining the imaging conditions and the method for generating the model used in the phase classification step S6 of the imaging method will be described. It should be noted that this model may be generated in advance before the above-mentioned method for determining shooting conditions and the method for shooting.
  • a model generation method a polishing step, an etching step, a photographing step, a phase designation step, a feature value calculation step, and a model generation step are performed in this order.
  • the specific methods of the polishing step, the etching step, the photographing step, the phase designation step, and the feature value calculation step are the same as those of each step of the photographing condition determination method described above.
  • the same polishing and etching are performed on the metal material having the same phase as the metal material to be observed (hereinafter referred to as "observation sample") so as to be the metal material to be observed.
  • observation sample the metal material having the same phase as the metal material to be observed
  • the metal structure of the metal material is photographed.
  • the phase designation step the phase is designated by assigning a label for each phase to the pixels corresponding to one or a plurality of predetermined phases of the metal structure in the structure image taken in the photographing step.
  • the feature value calculation step one or more feature values among the above-mentioned feature values (1) to (8) are calculated for the pixels labeled with each phase in the phase designation step, and each phase of the metal structure is calculated. Build a database that stores feature values.
  • the feature values calculated in the feature value calculation step are input for the pixels labeled with each phase, and the label of each phase is output.
  • a model is generated by learning as (machine learning). Specifically, in the model generation step, a decision tree in which feature values are set as branching conditions is generated.
  • the machine learning method in the model generation process is not limited to the decision tree, and may be, for example, a random forest or a neural network, but in the present embodiment, the decision tree will be described as an example.
  • the phases of the metallographic structure are classified by repeating binarization a plurality of times from the feature values of each phase calculated in the feature value calculation step.
  • the accuracy of classifying each phase is set in advance from the phase specified by the operator and the feature value of each phase calculated in the feature value calculation process, and based on the set numerical information. , Learn branching by binarization.
  • the binarization branch when the binarization branch is set to be performed with an accuracy of 80%, the feature value is classified so that the phase classification is performed with a probability of 80% or more from the specified phase and its feature value.
  • a decision tree is created by repeatedly learning binarization.
  • the accuracy may be set arbitrarily by the operator, but the lower limit is preferably 80% or more. If the accuracy is less than 80%, the classification accuracy will decrease. On the contrary, if the accuracy is set too high, overfitting causes the classification accuracy to deteriorate in the image classification after learning. Therefore, the upper limit of accuracy is preferably less than 99%.
  • the order of binarization (branching order) of each feature value when binarization is performed multiple times may be specified in advance by the operator, or is randomly determined using a random number. You may. Since the optimum order of binarization of each feature value is often unknown in advance, it is preferable to use a random number to search the binarization order of each feature value that can be classified with the above-mentioned accuracy or higher by a computer. .. Similarly, since the optimum number of binarization of each feature value is often unknown in advance, it is preferable to have a computer search for the number of binarization of each feature value that can be classified with the above-mentioned accuracy or higher. Further, the feature value used as the branching condition at the time of binarization may be used a plurality of times as the branching condition.
  • phase classification method In the phase classification method of the metal structure according to the present embodiment, the metal structure is photographed by the above-mentioned imaging method, and the phase of the metal structure of the metal structure is classified.
  • the phase classification device that executes the phase classification method may be realized by the same configuration as the imaging condition determination device 1, or may be realized by a configuration different from that of the imaging condition determination device 1.
  • the classification device the following effects are obtained. That is, in segmentation for classifying the phases of important metal structures that have a great influence on various material properties such as mechanical properties and corrosion properties, even when the photographing conditions vary depending on the etching conditions, the photographing means, or the photographer.
  • the phases of the metallographic structure can be classified accurately.
  • the sample is used.
  • the following processing is performed. First, a plurality of phases to be classified in advance are specified, and the designated area is automatically adjusted to shooting conditions (for example, a contrast value) that can be accurately classified based on a model prepared in advance. Then, by photographing the remaining metal material under the photographing conditions adjusted in this way, it is possible to cope with the difference in the contrast value that fluctuates due to a slight change in the etching conditions.
  • segmentation can be performed automatically and accurately.
  • the conventional method when observing an observation sample, it is not possible to perform accurate segmentation unless polishing and etching are performed under the same conditions as when the model was generated.
  • polishing and etching are performed under the same conditions as when the model was generated.
  • the method according to the present invention it is possible to perform segmentation with high accuracy even when the polishing / etching conditions at the time of model generation are deviated. This eliminates the need to match polishing / etching conditions that are difficult to control, and makes it possible to efficiently classify tissue images.
  • the method for determining the imaging conditions of the metal structure, the method for photographing the metal structure, the method for classifying the phase of the metal structure, the apparatus for determining the imaging conditions for the metal structure 1, the imaging device for the metal structure, and the phase classification device for the metal structure according to the present embodiment are as follows. Even under the above conditions, the phase classification of the tissue image can be performed accurately. For example, even when the roughness of the abrasive material for finish polishing in the polishing step is in the range of 0.05 ⁇ m to 2 ⁇ m and the nitric acid concentration of the etching solution in the etching step is in the range of 0.5% to 8%, the structure The phase classification of the image can be performed accurately.
  • a method for determining imaging conditions for a metal structure a method for photographing a metal structure, a method for classifying a phase of a metal structure, a device for determining an imaging condition for a metal structure, a device for determining a photographing condition for a metal structure, and a phase classification device for a metal structure according to a second embodiment of the present invention. Will be described with reference to FIGS. 4 and 5.
  • the photographing condition determining device 1A includes a photographing unit 10, a storage unit 20, a calculation unit 50, and an output unit 40.
  • the photographing apparatus according to the present embodiment has the same configuration as the photographing condition determining device 1A shown in the figure.
  • the calculation unit 50 functions as a feature value calculation unit 51, a phase classification unit 52, and a shooting condition determination unit 53 through the execution of the program. The details of each part will be described later.
  • a method of determining shooting conditions using the shooting condition determining device 1A and a shooting method using the shooting device will be described with reference to FIG.
  • the imaging condition determination method the polishing process S11, the etching process S12, the first imaging process S13, the feature value calculation process S14, the phase classification process S15, the classification accuracy determination process S16, and the imaging condition determination step S17 are used. , In this order. Further, in the photographing method, a second photographing step S18 is performed after each step of the photographing condition determining method.
  • the polishing step S11, the etching step S12, the feature value calculation step S14, the phase classification step S15, and the second photographing step S18 are the polishing step S1, the etching step S2, the feature value calculation step S5, and the phase of the first embodiment. This is the same as the classification step S6 and the second photographing step S8. Therefore, the description thereof will be omitted.
  • the model used in the phase classification step S15 is the same as the model used in the phase classification step S6 of the first embodiment described above.
  • the etching step S12 it is preferable to perform etching under the conditions that the nitric acid concentration difference from the etching solution in the etching step when the model is generated is less than 0.1% and the immersion time difference is less than 2.0 s.
  • the classification accuracy in the second photographing step S18 can be improved (classification error can be reduced).
  • the change width of the shooting conditions for example, the contrast value
  • the first shooting step S13 can be reduced, so that the number of images to be continuously shot can be reduced.
  • the imaging unit 10 photographs a part of the metal structure of the metal material (a part of the visual field of the metal structure) that has undergone predetermined sample preparation (polishing step S11 and etching step S12). Shoot continuously while changing the conditions. That is, in the first photographing step S13, when the photographing unit 10 is a scanning electron microscope, the above-mentioned “shooting condition” includes a contrast value and a brightness value. Further, the above-mentioned “shooting condition” includes the intensity of the light source when the photographing unit 10 is an optical microscope.
  • the imaging unit 10 when the imaging unit 10 is a scanning electron microscope, an acceleration voltage of 0.5 kV to 20 kV is used. Then, based on the contrast value and brightness value initially set by the photographer, continuous shooting of 5 or more images is automatically performed while changing the contrast value and brightness value back and forth.
  • the photographing unit 10 is an optical microscope, five or more continuous photographs are automatically taken while changing the intensity of the light source back and forth around the intensity of the light source initially set by the photographer.
  • the light source of the optical microscope for example, a reflection mirror, a tungsten lamp or a halogen lamp can be used.
  • the number of captured images is preferably 20 or less.
  • the imaging condition determination unit 53 determines whether or not the classification accuracy of the segmentation in the phase classification step S15 is equal to or higher than a predetermined value. Then, the photographing condition determination unit 53 proceeds to the imaging condition determination step S17 when the classification accuracy is equal to or higher than a predetermined value, and returns to the first imaging step S13 when the classification accuracy is equal to or higher than a predetermined value.
  • the imaging condition determination unit 53 determines the imaging conditions based on the classification result of the phase classification step S15, that is, the determination result of the classification accuracy determination step S16.
  • the imaging condition determination step S17 among the plurality of imaging conditions used in the first imaging step S13, other parts of the metal structure (other visual fields of the metal structure) different from the portion photographed in the first imaging step S13. ) Is determined when shooting.
  • the imaging condition determination step S17 specifically, among the imaging conditions used in the first imaging step S13, the imaging conditions in which the classification accuracy of each phase in the phase classification step S15 is the highest are set to the other parts of the metal structure. It is decided as a shooting condition when shooting.
  • the feature value calculation result may be output from the output unit 40.
  • the output format at that time is not particularly limited, and may be output in either a text file (for example, a set of numerical values) or an image file (for example, a histogram image, a tissue image showing feature values).
  • the phase classification result may be output from the output unit 40.
  • the output format at that time is not particularly limited, and may be output in either a text file or an image file (for example, a phase classification image) format.
  • the phase classification image may be superimposed on the tissue image photographed in the first photographing step S13 or arranged next to the tissue image and output from the output unit 40.
  • the shooting conditions may be determined by accepting the input from the shooting condition determining device 1A and the photographer who handles the shooting device.
  • the imaging condition determination unit 53 outputs the tissue images after the classification of the plurality of phases by superimposing them on the plurality of tissue images captured in the first imaging step S13 or by arranging them next to the plurality of tissue images. Output from unit 40. Based on this output result, the photographer selects a tissue image (tissue image after phase classification) that seems to have the highest classification accuracy of each phase through an input unit (not shown).
  • the imaging condition determination unit 53 determines the imaging conditions corresponding to the tissue image selected by the photographer as the imaging conditions when photographing other parts of the metal structure.
  • phase classification method In the phase classification method of the metal structure according to the present embodiment, the metal structure is photographed by the above-mentioned imaging method, and the phase of the metal structure of the metal structure is classified.
  • the phase classification device that executes the phase classification method may be realized by the same configuration as the imaging condition determination device 1, or may be realized by a configuration different from that of the imaging condition determination device 1.
  • the classification device the following effects are obtained. That is, in segmentation for classifying the phases of important metal structures that have a great influence on various material properties such as mechanical properties and corrosion properties, even when the photographing conditions vary depending on the etching conditions, the photographing means, or the photographer.
  • the phases of the metallographic structure can be classified accurately.
  • the following Perform processing like when taking a tissue image of a metal material after sample preparation, the image is continuously photographed while changing the imaging conditions (for example, contrast value), and from a plurality of photographed tissue images, based on a model prepared in advance. Select shooting conditions that can be classified accurately. Then, by photographing the remaining metal material under the photographing conditions adjusted in this way, it is possible to cope with the difference in the contrast value that fluctuates due to a slight change in the etching conditions.
  • the imaging conditions for example, contrast value
  • the method for determining the imaging condition of the metal structure the method for photographing the metal structure, the phase classification method for the metal structure, the imaging condition determining device 1A for the metal structure, the imaging device for the metal structure, and the phase classification device for the metal structure according to the present embodiment.
  • segmentation can be performed with high accuracy.
  • the method according to the present invention when observing an observation sample, it is not possible to perform accurate segmentation unless polishing and etching are performed under the same conditions as when the model was generated.
  • the material property prediction device 3 (Material property prediction device for metal materials)
  • the material property prediction device 3 includes an input unit 70, an output unit 80, a calculation unit 90, and a storage unit 100.
  • the input unit 70 is an input means for inputting an image in which the phases of the metal structure are classified (hereinafter, referred to as “classification image”) to the calculation unit 90.
  • classification image the phase of the metal structure is classified by the above-mentioned method of classifying the phase of the metal structure, or the phase of the metal structure is classified by other methods such as binarization of the brightness value. It is an image etc.
  • the output unit 80 is an output means for outputting the calculation result by the calculation unit 90.
  • the output unit 80 is composed of, for example, a display, a printer, a smartphone, or the like.
  • the output unit 80 obtains, for example, the quantitative evaluation value of the metal structure calculated by the quantitative evaluation unit 91, the data recorded in the database of the storage unit 100, the prediction result (material characteristics of the metal material) by the material property prediction unit 95, and the like.
  • the output format of the output unit 80 is not particularly limited, and data such as a text file or an image file or a format projected onto an output device may be output.
  • the arithmetic unit 90 is realized by, for example, a processor composed of a CPU or the like and a memory composed of a RAM, a ROM, or the like.
  • the arithmetic unit 90 loads a program into the work area of the main storage unit, executes the program, and controls each component or the like through the execution of the program to realize a function that meets a predetermined purpose.
  • the calculation unit 90 functions as a quantitative evaluation unit 91, a data recording unit 92, a data selection unit 93, a model generation unit 94, and a material property prediction unit 95 through the execution of the above-mentioned program. Details of each part will be described later (see FIG. 7).
  • the storage unit 100 is composed of a recording medium such as an EPROM, a solid state drive, and a removable medium.
  • the storage unit 100 stores, for example, a database in which predetermined data is recorded, a prediction model (learned model) generated by the model generation unit 94, and the like.
  • a prediction model generated by the model generation unit 94, and the like.
  • the quantitative evaluation value of the metal structure calculated by the quantitative evaluation unit 91 the material characteristic value (steel plate data) of the metal material obtained in advance by a mechanical test or the like, the component composition of the metal material, the metal material, etc. Is recorded.
  • a method of learning the phase of the metal structure using the material property prediction device 3 will be described with reference to FIG. 7.
  • the method for learning the phase of the metal structure is carried out by using the classification result (classification image) after performing the above-mentioned method for classifying the phase of the metal structure.
  • the method for learning the phase of the metal structure is an image input step S21, a quantitative evaluation step S22, a data recording step S23, a data selection step S24, a model generation step S25, a material property prediction step S26, and a prediction result output step. S27 and so on are performed in this order.
  • Image input process S21> In the image input step S21, the input unit 70 inputs the classification image to the calculation unit 90.
  • the quantitative evaluation unit 91 calculates the quantitative evaluation value of the metal structure by quantitatively evaluating each phase included in the classification image.
  • quantitative evaluation values as shown in the following (1) to (5) are calculated.
  • the area ratio of the phase is calculated by obtaining the area of the classified phase.
  • the major axis, minor axis, or aspect ratio of the ellipsoid is calculated by approximating the shape of each grain of the classified phases to an ellipsoid.
  • the average diameter of the grains is derived by obtaining the area of each grain of the classified phase and taking the square root of the area.
  • Roundness Obtain the area and circumference of each grain of the classified phase, and calculate the roundness of the grain by the following formula (4).
  • the roundness is 1.0 when the grain is a perfect circle, and conversely, it becomes smaller than 1.0 as the grain deviates from the shape of the perfect circle.
  • the data recording unit 92 records the quantitative evaluation value of the metal structure calculated in the quantitative evaluation step S22 in the database of the storage unit 100.
  • the data selection unit 93 selects data to be used for predicting the material properties of the metal material from the quantitative evaluation values of the metal structure recorded in the database and the data of the material properties of the metal material (the data to be used for predicting the material properties of the metal material). Extract.
  • the quantitative evaluation value is calculated for each grain, there are cases where a plurality of numerical values can be obtained for one tissue image.
  • a plurality of numerical values can be obtained for one tissue image.
  • the average value may be calculated and only the average value may be used for the prediction of the material property, or the standard deviation may be used for the prediction of the material property.
  • the data selection step S24 it is desirable to select a quantitative evaluation value with good prediction accuracy of the material properties in the prediction model generation step S25 described later.
  • the component composition of the metal material and the heat treatment conditions may be input.
  • the model generation unit 94 generates a prediction model that predicts the material properties of the metal material using the data selected in the data selection step S24.
  • a prediction model for predicting material properties is generated using the quantitative evaluation values, the component composition of the metal material, the heat treatment conditions, and the like selected in the data selection step S24.
  • a prediction model is also generated using the data of the material properties of the metal material selected in the data selection step S24.
  • the prediction model may be generated using a model such as a neural network, a support vector regression, or a Gaussian process regression, or may be generated as a simple regression equation such as a linear regression. Further, in the generation of the prediction model, it is preferable to predict the material properties using a plurality of prediction models and adopt the prediction model having the highest prediction accuracy.
  • the measured value is taken on the X-axis and the predicted value is taken on the Y-axis, and it is confirmed by a two-dimensional graph how much the two data match, or the prediction error of each data. Is added and evaluated by the parameters divided by the number of data. Further, it is preferable to evaluate the prediction accuracy of the material properties by the following procedure, for example. First, the data selected from the database is divided into data used for parameter fitting in the prediction model (training data) and data not used for fitting (test data). Then, the prediction accuracy of the material properties is evaluated based on the degree of agreement between the predicted value of the test data and the measured value.
  • the operator may select and divide the data, or after determining the ratio of training data and test data, randomize using random numbers or the like. You may decide on.
  • the material property prediction unit 95 predicts the material properties of the metal material by using the prediction model generated in the prediction model generation step S25. Specifically, in the material property prediction step S26, the material properties of the metal material are predicted by inputting the quantitative evaluation value selected in the data selection step S24 into the prediction model generated in the prediction model generation step S25.
  • the output unit 80 outputs the prediction result in the material property prediction step S26, that is, the material property of the metal material.
  • the material property prediction method for metal materials and the material property prediction device for metal materials according to the present embodiment quantitative evaluation can be efficiently performed from the classification result of the phase of the metal structure. Therefore, the material properties of the metal material can be predicted accurately by deriving the correlation between the quantitative evaluation value and the material properties of the metal material. As a result, the material properties of the metal material can be grasped at the same time as viewing the image of the metal structure, so that the efficiency of the development of the metal material (for example, a steel plate) can be improved.
  • the material property prediction method for metal materials and the material property prediction device for metal materials according to the present embodiment it is possible to efficiently quantitatively evaluate the metal structure unlike the conventional method by efficient segmentation of the structure image. Become.
  • the index quantified in this way it is possible to accurately predict the material properties of the captured tissue image.
  • Example 1 An imaging condition determination method and an example of the imaging method according to the first embodiment of the present invention will be described with reference to FIGS. 8 to 12.
  • a DP steel plate (hereinafter referred to as "sample") is roughly polished and then scratched when observed with an optical microscope at a magnification of 500. Finish polishing was performed using 0.06 ⁇ m alumina as an abrasive until it disappeared (polishing step).
  • etching step a tissue image of the sample after etching was taken using a scanning electron microscope (photographing step).
  • the ferrite phase and the martensite phase were designated in the microstructure image (phase designation step). Subsequently, the identity feature value, the Mean feature value of 2pixel to 32pixel, the Gausian feature value, the Median feature value, the Max feature value, the Min feature value, the Derivative feature value, and the Derivative feature value are calculated for the two designated phases. , A database of feature values for each phase was constructed (feature value calculation process). Subsequently, a decision tree for classifying the ferrite phase and the martensite phase was created by repeatedly binarizing the ferrite phase and the martensite phase specified earlier so that they could be classified with an accuracy of 95% or more. Model generation process).
  • finish polishing is performed by two methods (method A and method B) different from those when the database was constructed, as shown in Table 1 below. And etching was performed (polishing step and etching step). Subsequently, using a scanning electron microscope, a tissue image of a part of the two samples after etching was taken with a plurality of contrast values (first photographing step). Subsequently, as shown in FIGS. 9A and 9B, a plurality of ferrite phase and martensite phase were designated for the microstructure images of the two types of samples after imaging (phase designation step). Subsequently, the same feature values as when the database was constructed were calculated for the designated area (feature value calculation step), and the phases were classified based on the decision tree (phase classification step).
  • FIGS. 10A to 10D the contrast value that can be classified most accurately among the contrast values at the time of shooting was determined (shooting condition determination step).
  • FIG. 10B the region correctly classified in FIG. 10A is shown in gray.
  • FIG. 10 (d) the regions correctly classified in (c) are shown in gray.
  • a tissue image of the other part of the two samples was taken (second imaging step).
  • FIG. 11 (a) The result of segmentation of the tissue image of the sample prepared by the method A in Table 1 is shown in FIG. 11 (a), and the result of segmentation of the tissue image of the sample prepared by the method B is shown in FIG. 11 (b). ), Each is shown. Further, for comparison, the segmentation results of the tissue images taken without performing the contrast adjustment by the method of the present invention for the samples prepared by the methods A and B in Table 1 are shown in FIGS. 12 (a) and 12 (b). ).
  • FIGS. 11A and 11B it can be seen that the classification can be performed with high accuracy by adjusting the contrast by the method of the present invention.
  • FIGS. 12 (a) and 12 (b) it can be seen that the classification cannot be performed accurately unless the contrast is adjusted by the method of the present invention.
  • Example 2 An imaging condition determination method and an example of the imaging method according to the second embodiment of the present invention will be described with reference to FIGS. 8, 13 to 15.
  • a DP steel plate (hereinafter referred to as "sample") is roughly polished and then scratched when observed with an optical microscope at a magnification of 500. Finish polishing was performed using 0.06 ⁇ m alumina as an abrasive until it disappeared (polishing step).
  • etching step a tissue image of the sample after etching was taken using a scanning electron microscope (photographing step).
  • the ferrite phase and the martensite phase were designated in the microstructure image (phase designation step). Subsequently, the identity feature value, the Mean feature value of 2pixel to 32pixel, the Gausian feature value, the Median feature value, the Max feature value, the Min feature value, the Derivative feature value, and the Derivative feature value are calculated for the two designated phases. , A database of feature values for each phase was constructed (feature value calculation process). Subsequently, a decision tree for classifying the ferrite phase and the martensite phase was created by repeatedly binarizing the ferrite phase and the martensite phase specified earlier so that they could be classified with an accuracy of 95% or more. Model generation process).
  • finish polishing was performed by two methods (method A and method B) different from those when the database was constructed, as shown in Table 1 above. And etching was performed (polishing step and etching step).
  • etching was performed (polishing step and etching step).
  • tissue images of a part of the two samples after etching were continuously taken while automatically and continuously changing the contrast value at an acceleration voltage of 15 kV (first). Shooting process).
  • feature value calculation step for the tissue images of 2 types ⁇ 5 samples, the same feature values as when the database was constructed were calculated (feature value calculation step), and the phases were classified based on the decision tree (phase classification step). ..
  • FIG. 13 shows the result of segmentation of the tissue image of the sample prepared by the method A in Table 1
  • FIG. 14 shows the result of segmentation of the tissue image of the sample prepared by the method B.
  • the results of taking only one image without continuous photography in the first photographing step and performing segmentation are shown in FIGS. 15 (a) and 15 (b).
  • FIGS. 13 and 14 in order from the left, a tissue image taken in the first photographing step, a phase classification image showing the phase classification result in the phase classification step, and the quality of the classification accuracy are shown.
  • the phase classification accuracy is the best in the case of (e). Therefore, in the second photographing step, it can be seen that the other portion of the metal structure may be photographed by using the contrast value when the structure image of (e) is photographed. Further, in the segmentation result of FIG. 14, the phase classification accuracy is the best in the case of (c). Therefore, in the second photographing step, it can be seen that the other part of the metal structure may be photographed by using the contrast value when the structure image of (c) was photographed. On the other hand, in the segmentation result of FIG. 15, since the phase classification accuracy is poor, the phase classification accuracy is naturally poor when the tissue image of the same figure is photographed using the contrast value in the second imaging step. It is expected that.
  • Example 3 The method for predicting the material properties of the metal material and the third embodiment of the device for predicting the material properties of the metal material according to the present invention will be described with reference to FIGS. 16 to 18.
  • FIG. 16A shows a histogram of the roundness of the ferrite phase calculated from the classification result of Example 1 (see FIG. 11A).
  • FIG. 16B shows a histogram of the roundness of the martensite phase calculated from the classification result of Example 1 (see FIG. 11A).
  • FIG. 17A shows a histogram of the roundness of the ferrite phase calculated from the classification result of Example 1 (see FIG. 11B).
  • FIG. 17B shows a histogram of the roundness of the martensite phase calculated from the classification result of Example 1 (see FIG. 11B).
  • the component composition of the metal material is selected in addition to the average values of the area ratio and roundness of the ferrite phase and the martensite phase among the quantitative evaluation values calculated above, and the quantitative evaluation values (data selection step). , These data were used to predict material properties.
  • a prediction model for predicting the tensile strength was generated from the above-mentioned quantitative evaluation value and the component composition of the metal material (prediction model generation step).
  • the extracted data was randomly divided into training data and test data at a ratio of 9: 1.
  • a neural network model was used to generate a prediction model for predicting tensile strength.
  • FIG. 18 shows the prediction result of the tensile strength by the neural network model generated by the model generation unit.
  • the horizontal axis shows the measured value of the tensile strength normalized by using the average value and the standard deviation of the tensile strength extracted from the database.
  • the vertical axis shows the predicted value of the tensile strength standardized by using the average value of the tensile strength extracted from the database and the standard deviation.
  • the round plot points indicate the prediction result of the tensile strength of the sample (training data) used for the parameter adjustment in the neural network model.
  • the square plot points show the prediction results of the tensile strength of the sample (test data) not used for parameter adjustment.
  • both the training data and the test data have good prediction accuracy of material properties, and by using the area ratio of the ferrite phase and the martensite phase, the average value of roundness, and the composition of the metal material, the tension is increased. It can be seen that the strength can be predicted accurately.
  • the calculated quantitative evaluation value and the component composition of the metal material were used to calculate the predicted value of the tensile strength corresponding to the metal structures of FIGS. 11A and 11B.
  • Table 2 shows the quantitative evaluation value, the predicted value of the tensile strength, and the measured value calculated from the tissue image. As shown in Table 2, it can be seen that the tensile strength can be predicted accurately.
  • the method for determining the imaging conditions of the metal structure, the method for photographing the metal structure, the method for classifying the phase of the metal structure, the apparatus for determining the imaging conditions for the metal structure, the apparatus for imaging the metal structure, the phase classification device for the metal structure, the metal material according to the present invention The material property prediction method and the material property prediction device for metallic materials have been specifically described with reference to embodiments and examples for carrying out the invention, but the gist of the present invention is not limited to these descriptions, and claims are made. Must be broadly interpreted based on the description of the range of. Needless to say, various changes, modifications, etc. based on these descriptions are also included in the gist of the present invention.
  • a method for determining imaging conditions of a metal structure a method for photographing a metal structure, a method for classifying a phase of a metal structure, and a method for predicting material properties of a metal material according to the present invention
  • software that implements the method is generally commercially available. It may be realized by introducing it into a computer.
  • a computer on the market is, for example, a CPU that executes instructions of a program that is software that realizes each function, and a recording medium (for example, a recording medium in which the software and various data are recorded in a form that can be read by the computer (or CPU)).
  • the imaging condition determination device 1, the imaging device, the phase classification device, and the material property prediction device 3 according to the present invention have been described as one configuration as shown in FIGS. 1 and 6, but are realized by separate devices. It may be realized by one device.
  • 1,1A Imaging condition determination device 3 Material property prediction device 10 Imaging unit 20 Storage unit 30 Calculation unit 31 Phase designation unit 32 Feature value calculation unit 33 Phase classification unit 34 Shooting condition determination unit 40 Output unit 50 Calculation unit 51 Feature value calculation unit 52 Phase classification unit 53 Imaging condition determination unit 70 Input unit 80 Output unit 90 Calculation unit 91 Quantitative evaluation unit 92 Data recording unit 93 Data selection unit 94 Model generation unit 95 Material characteristic prediction unit 100 Storage unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Food Science & Technology (AREA)
  • Computational Linguistics (AREA)
  • Medicinal Chemistry (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Investigating And Analyzing Materials By Characteristic Methods (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Analysis (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)

Abstract

金属組織の撮影条件決定方法は、金属材料の金属組織の一部分を撮影する撮影工程と、金属組織の画素に対し、各相のラベルを付与する相指定工程と、各相のラベルを付与した画素について、特徴値を算出する特徴値算出工程と、各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して特徴値を入力し、相のラベルを取得することにより、相を分類する相分類工程と、相分類工程の分類結果に基づいて、金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定工程と、を含む。

Description

金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置
 本発明は、金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置に関する。
 近年、地球環境の保全という観点から、排出される汚染物質の低減のために排気ガス規制が実施されている。また、自動車に対しては車体の軽量化による燃費向上が強く要求されている。車体を軽量化するための有力な手法の一つに、車体に使用する薄鋼板の高強度化があり、自動車では高強度鋼板の使用量が年々増加している。
 一般に、鋼板等の金属材料は、同一の組成を有していても、光学顕微鏡または電子顕微鏡レベルでのスケール(mm~μmスケール)の金属組織に特性が強く依存する。そのため、高強度鋼板を開発する場合、固溶強化元素の添加による固溶強化を利用する方法や、析出強化元素の添加による析出物を利用する析出強化方法等の組成を変える方法が用いられる。また、これらの方法の他に、同一組成で熱処理条件を変えることで、最終的に実現する金属組織を変化させ、機械特性を向上させる方法が用いられる。
 このように、高強度鋼板を開発するためには、組成の制御のみならず、金属組織の制御が重要であり、そのために金属材料を光学顕微鏡または電子顕微鏡等で観察し、その金属組織を定量評価することが重要である。実際に、素材開発の現場においては、熱処理条件を変えた金属材料の組織観察が日常的に実施されている。
 鋼板等の金属材料に対して、公知の研磨方法およびエッチング方法等の試料調整を実施した後に、電子顕微鏡等の公知の撮影装置で金属組織の観察を行うと、一般的には相ごとにコントラストが異なるため、各相の判別を行うことができる。例えば、鉄鋼材料のハイテン材として代表的に使用されている、フェライト相およびマルテンサイト相からなるDP鋼板(Dual Phase鋼板)の金属組織を観察する場合、まず粗研磨を行った後に、0.05μm~2μmの研磨剤を用いた仕上げ研磨を行う。続いて、0.5~8%のナイタール溶液を用いてエッチングを行う。そして、走査型電子顕微鏡を用いてその金属組織を500倍以上の倍率で観察すると、フェライト相とマルテンサイト相とが異なるコントラストで観察され、両相を識別することができる。熱処理条件によって、軟質なフェライト相と硬質なマルテンサイト相とからなる金属組織の各相の体積分率や金属組織の形状が変化し、機械特性が大きく変化する。そのため、金属組織の各相の体積分率と金属組織の形状とを制御することにより、素材として要求される機械特性の実現を試みた素材開発が日常的に行われている。
 機械特性と金属組織との関係を明確に導くためには、観察した金属組織を構成する相を正確に特定し、各相の体積分率や金属組織の形状を定量的に評価することが重要となる。金属組織を撮影した画像(以下、「組織画像」という)から相を特定(分類)して抽出することを一般的には「セグメンテーション」と呼ぶが、従来のセグメンテーションでは、組織画像の各相を作業者が手塗により色分けして分類していた。しかしながら、この方法は、一枚の組織画像を解析するだけでも膨大な時間を要するのみならず、作業者によって相の認識が異なるため、手塗を実施する作業者によって大きな誤差が存在していた。そのため、実際には、手塗によるセグメンテーションはほとんど行われず、組織画像の評価は定性的な評価に留まっているのが実情であった。
 このような大きな誤差、また膨大な時間を要する手塗に代わる公知のセグメンテーションの方法としては、輝度値の二値化が挙げられる。この方法は、撮影した金属組織の画像データに対して輝度値のしきい値を定め、二色となるようにコンピュータ等を用いて画像を変換することにより、特定の相のみを抽出し、各色の面積を求めることで相分率を測定する。この方法は、金属組織の相ごとに輝度値が明確に異なる場合は、正確に相の分類を実施することができる。また、作業としては輝度値のしきい値を定めるのみであるため、前述の手塗に比べるとはるかに高速に金属組織を定量評価することができる。しかしその一方で、金属材料では、相ごとの輝度値の違いが明確ではないケースが多く、輝度値の違いが明確でない場合は誤差が大きくなるため、精度よく分類できないケースが多かった。
 また、たとえ相ごとに輝度値が明確に異なる場合であっても、金属材料では、撮影前に実施する試料調整において、制御が困難な10-2sオーダのエッチング時間に依存してその輝度値が変化する。そのため、同一の相であっても、撮影した組織画像ごとに二値化のしきい値を決め直さなければならないという問題があった。また、エッチング条件以外にも、例えば光学顕微鏡では光源の強さを変化させることにより画像の輝度値を変化させることができる。しかし、その設定は撮影者に依存するため、撮影者ごとに二値化のしきい値をその都度決め直さなければならないという問題があった。
 コンピュータの性能が飛躍的に向上した昨今では、上記に挙げた手塗、あるいは単純な輝度値の二値化ではなく、より高度な計算技術を用いて、人為的な要素を含めずに画像を解析する技術が開発されている。例えば、特許文献1では、以下のような技術が開示されている。まず、人体表面の部位の画像を反対色空間における画像に変換し、反対色空間における画像の反対色空間の成分のそれぞれを異なる空間周波数のサブバンド画像に分解する。そして、このサブバンド画像について、人体表面の部位に応じた特徴値を算出し、この特徴値に基づいて人体表面の部位の外観を評価する。この技術を用いることにより、人肌の画像から肌の状態、質感等を客観的かつ高速に評価することができる。
 また、特許文献2では、以下のような技術が開示されている。まず、組織を撮影した1枚の組織画像に対して、二値化の基準値を異ならせながら複数回の二値化処理を行うことにより、複数の二値化画像を生成する。続いて、この複数の二値化画像のそれぞれについて、穴形状の領域の数を算出し、複数の二値化の基準値と穴形状の領域の数との対応関係を特徴づける特徴数を特定し、この特徴数に対応した出力情報を生成する。
特開2018-121752号公報 国際公開第2017/010397号
 しかしながら、特許文献1で開示された技術は、あくまでも皮膚組織を評価するための技術であるため、鋼板等の金属材料の組織に適用することは困難である。ましてや、制御困難なエッチング条件によって変動するコントラスト差等に対応することは困難である。また、特許文献2で開示された技術についても同様に、生体細胞の画像を解析するための技術であり、金属材料のようにエッチングによってコントラストが大きく変動する組織画像の解析に適用することは困難である。
 本発明は、上記に鑑みてなされたものであって、エッチング条件、撮影手段または撮影者によって撮影条件が変動する場合においても、金属組織の相を精度よく分類することが可能な金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置を提供することを目的とする。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影条件決定方法は、金属材料の金属組織を撮影する際の撮影条件決定方法であって、所定の試料調整が施された前記金属材料の金属組織の一部分を、予め定めた撮影条件の下で撮影する撮影工程と、前記撮影工程で撮影した画像について、前記金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与する相指定工程と、前記相指定工程で各相のラベルを付与した画素について、一つ以上の特徴値を算出する特徴値算出工程と、各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出工程で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類工程と、前記相分類工程の分類結果に基づいて、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定工程と、を含む。
 また、本発明に係る金属組織の撮影条件決定方法は、上記発明において、前記撮影工程が、前記金属組織の一部分を、予め定めた複数の撮影条件の下で撮影し、前記撮影条件決定工程が、前記撮影工程で用いた複数の撮影条件のうち、前記相分類工程における各相の分類精度が最も高くなる撮影条件を、前記金属組織のその他の部分を撮影する際の撮影条件として決定する。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影条件決定方法は、金属材料の金属組織を撮影する際の撮影条件決定方法であって、所定の試料調整が施された前記金属組織の一部分を、撮影条件を変更しながら連続的に撮影する撮影工程と、前記撮影工程で撮影した画像について、一つ以上の特徴値を算出する特徴値算出工程と、前記金属組織の予め定めた一または複数の相のラベルが付与された画素の特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出工程で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類工程と、前記相分類工程の分類結果に基づいて、前記撮影工程で用いた複数の撮影条件の中から、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定工程と、を含む。
 また、本発明に係る金属組織の撮影条件決定方法は、上記発明において、前記撮影条件決定工程が、前記撮影工程で用いた撮影条件のうち、前記相分類工程における各相の分類精度が最も高くなる撮影条件を、前記金属組織のその他の部分を撮影する際の撮影条件として決定する。
 また、本発明に係る金属組織の撮影条件決定方法は、上記発明において、前記撮影条件が、コントラスト値、ブライトネス値および光源の強さのうちの少なくとも一つを含む。
 また、本発明に係る金属組織の撮影条件決定方法は、上記発明において、 前記撮影工程の前に、前記金属材料を粗研磨した後に、0.05μm~2μmの研磨材を用いたバフ研磨を行う研磨工程と、エタノールおよび硝酸を混合して作成された、硝酸濃度が0.5%~8%のナイタール溶液を用いて前記金属材料をエッチングするエッチング工程と、を含む。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影方法は、上記の金属材料の撮影条件決定方法の後に、前記金属材料の金属組織のその他の部分を、前記撮影条件決定方法で決定された撮影条件の下で撮影する。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の相分類方法は、上記の金属組織の撮影方法により金属組織を撮影し、該金属組織の金属組織の相を分類する。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影条件決定装置は、金属材料の金属組織を撮影する際の撮影条件決定装置であって、所定の試料調整が施された前記金属材料の金属組織の一部分を、予め定めた撮影条件の下で撮影する撮影部と、前記撮影部で撮影した画像について、前記金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与する相指定部と、前記相指定部で各相のラベルを付与した画素について、一つ以上の特徴値を算出する特徴値算出部と、各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出部で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類部と、前記相分類部の分類結果に基づいて、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定部と、を備える。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影条件決定装置は、金属材料の金属組織を撮影する際の撮影条件決定装置であって、所定の試料調整が施された前記金属組織の一部分を、撮影条件を変更しながら連続的に撮影する撮影部と、前記撮影部で撮影した画像について、一つ以上の特徴値を算出する特徴値算出部と、前記金属組織の予め定めた一または複数の相のラベルが付与された画素の特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出部で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類部と、前記相分類部の分類結果に基づいて、前記撮影部で用いた複数の撮影条件の中から、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定部と、を備える。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の撮影装置は、前記金属材料の金属組織のその他の部分を、上記の撮影条件決定装置によって決定された撮影条件の下で撮影する。
 上述した課題を解決し、目的を達成するために、本発明に係る金属組織の相分類装置は、上記の金属組織の撮影装置により金属組織を撮影し、該金属組織の金属組織の相を分類する。
 上述した課題を解決し、目的を達成するために、本発明に係る金属材料の材料特性予測方法は、金属材料の材料特性を予測する金属材料の材料特性予測方法であって、上記の金属組織の相の分類方法の後に、分類した各相の大きさ、面積率または形状を算出することにより、金属組織の定量評価値を算出する定量評価工程と、前記定量評価値と、予め用意された前記金属材料の材料特性との中から、前記金属材料の材料特性の予測に使用するデータを選択するデータ選択工程と、選択したデータを用いて、前記金属材料の材料特性を予測する予測モデルを生成するモデル生成工程と、生成した予測モデルを用いて前記金属材料の材料特性を予測する材料特性予測工程と、を含む。
 上述した課題を解決し、目的を達成するために、本発明に係る金属材料の材料特性予測装置は、金属材料の材料特性を予測する金属材料の材料特性予測装置であって、金属組織の相の分類が行われた画像を入力する入力部と、分類した各相の大きさ、面積率または形状を算出することにより、金属組織の定量評価値を算出する定量評価部と、前記定量評価値をデータベースに記録するデータ記録部と、前記データベースに記録された前記定量評価値および前記金属材料の材料特性の中から、前記金属材料の材料特性の予測に使用するデータを選択するデータ選択部と、選択したデータを用いて、前記金属材料の材料特性を予測する予測モデルを生成するモデル生成部と、生成した予測モデルを用いて前記金属材料の材料特性を予測する材料特性予測部と、予測した前記金属材料の材料特性を出力する出力部と、を備える。
 本発明に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置および金属組織の相分類装置によれば、次のような効果を奏する。すなわち、機械特性や腐食特性等の種々の材料特性に大きな影響を与える重要な金属組織の相を分類するセグメンテーションにあたり、エッチング条件、撮影手段または撮影者に応じて撮影条件が変動する場合においても、金属組織の相を精度よく分類することができる。加えて、定量的な評価を行うことができる撮影条件を決定することができる。
 また、本発明に係る金属材料の材料特性予測方法および金属材料の材料特性予測装置によれば、金属組織の相の分類結果から定量評価を効率的に実施できる。そのため、定量評価値と金属材料の材料特性との相関を導くことにより、金属材料の材料特性を正確に予測することができる。これにより、金属組織の画像を見ると同時に、金属材料の材料特性を把握することできるため、金属材料(例えば鋼板)開発の効率性を向上させることができる。
図1は、本発明の第一実施形態に係る金属組織の撮影条件決定装置および撮影装置の概略的な構成を示すブロック図である。 図2は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の流れを示すフローチャートである。 図3は、走査型電子顕微鏡を用いて撮影したDP鋼板の組織写真と、ラインL1上の輝度値プロファイルを示す図である。 図4は、本発明の第二実施形態に係る金属組織の撮影条件決定装置および撮影装置の概略的な構成を示すブロック図である。 図5は、本発明の第二実施形態に係る撮影条件決定方法および撮影方法の流れを示すフローチャートである。 図6は、本発明の実施形態に係る金属材料の材料特性予測装置の概略的な構成を示すブロック図である。 図7は、本発明の実施形態に係る金属材料の材料特性予測方法の流れを示すフローチャートである。 図8は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の実施例であって、データベースを構築する際に指定した金属組織の相を示す図である。 図9は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の実施例であって、相指定工程で指定した金属組織の相を示す図である。 図10は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の実施例であって、相分類工程で分類した結果を示す図である。なお、図10の(b)、(d)では、正しく分類できた領域を灰色で示している。 図11は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の実施例であって、第二の撮影工程でコントラスト値を調整して撮影した組織画像について、相分類工程で分類した金属組織の相を示す図である。 図12は、本発明の第一実施形態に係る撮影条件決定方法および撮影方法の比較例であって、コントラスト値を調整することなく撮影した組織画像について、相分類工程で分類した金属組織の相を示す図である。 図13は、本発明の第二実施形態に係る撮影条件決定方法および撮影方法の実施例であって、方法Aで試料調整を行った試料について、第一の撮影工程でコントラスト値を変更しながら連続的に撮影した組織画像と、当該組織画像に対応する相分類画像とを示す図である。 図14は、本発明の第二実施形態に係る撮影条件決定方法および撮影方法の実施例であって、方法Bで試料調整を行った試料について、第一の撮影工程でコントラスト値を変更しながら連続的に撮影した組織画像と、当該組織画像に対応する相分類画像とを示す図である。 図15は、本発明の第二実施形態に係る撮影条件決定方法および撮影方法の比較例であって、コントラスト値を変更せずに撮影した組織画像と、当該組織画像に対応する相分類画像とを示す図である。 図16は、本発明に係る金属材料の材料特性予測方法の実施例であり、図11の(a)の組織画像から算出したフェライト相およびマルテンサイト相の真円度のヒストグラムを示す図である。 図17は、本発明に係る金属材料の材料特性予測方法の実施例であり、図11の(b)の組織画像から算出したフェライト相およびマルテンサイト相の真円度のヒストグラムを示す図である。 図18は、本発明に係る金属材料の材料特性予測方法の実施例であり、予測モデル生成部で生成した予測モデル(ニューラルネットワークモデル)による引張強度の予測結果を示す図である。
[第一実施形態]
 本発明の第一実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置および金属組織の相分類装置について、図1および図2を参照しながら説明する。
 本実施形態に係る金属組織の撮影条件決定方法および撮影条件決定装置は、構造部材、自動車用部材等の様々な製品の素材として使用される金属材料の特性を制御する上で重要な情報となる金属組織の相を学習する際に、金属組織の撮影条件を決定する手法および装置である。また、本実施形態に係る金属組織の撮影方法および撮影装置は、撮影条件決定方法および撮影条件決定装置によって決定された撮影条件の下で、金属組織を撮影する手法および装置である。
 本実施形態で用いる金属材料は、例えばフェライト相およびマルテンサイト相からなるDP鋼板である。以下では、金属組織の撮影条件決定装置および撮影装置の構成について説明した後、これらの装置を用いた撮影条件決定方法および撮影方法と、モデル生成方法とについて説明する。そして、金属材料の材料特性予測装置の構成について説明した後、この装置を用いた材料特性予測方法について説明する。
(撮影条件決定装置/撮影装置)
 金属組織の撮影条件決定装置(以下、「撮影条件決定装置」という)1について、図1を参照しながら説明する。撮影条件決定装置1は、撮影部10と、記憶部20と、演算部30と、出力部40と、を備えている。なお、本実施形態に係る撮影装置は、同図に示した撮影条件決定装置1と同一の構成によって実現される。
 撮影部10は、金属材料の組織画像を撮影し、演算部30に対して入力する手段である。撮影部10は、例えば組織画像の撮影に広く用いられている光学顕微鏡または走査型電子顕微鏡等の公知の撮影装置で構成される。
 記憶部20は、EPROM(Erasable Programmable ROM)、ハードディスクドライブ(Hard Disk Drive:HDD)、ソリッドステートドライブ(Solid State Drive:SSD)およびリムーバブルメディア等の記録媒体から構成される。リムーバブルメディアとしては、例えばUSB(Universal Serial Bus)メモリ、CD(Compact Disc)、DVD(Digital Versatile Disc)、BD(Blu-ray(登録商標) Disc)のようなディスク記録媒体が挙げられる。また、記憶部20には、オペレーティングシステム(Operating System:OS)、各種プログラム、各種テーブル、各種データベース等が格納可能である。
 記憶部20には、例えば特徴値算出部32によって算出された特徴値のデータベース、各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデル(学習済みモデル)等が格納されている。このモデルの生成方法については後記する。
 演算部30は、例えばCPU(Central Processing Unit)等からなるプロセッサと、RAM(Random Access Memory)やROM(Read Only Memory)等からなるメモリ(主記憶部)と、によって実現される。演算部30は、プログラムを主記憶部の作業領域にロードして実行し、プログラムの実行を通じて各構成部等を制御することにより、所定の目的に合致した機能を実現する。また、演算部30は、前記したプログラムの実行を通じて、相指定部31、特徴値算出部32、相分類部33および撮影条件決定部34として機能する。なお、各部の詳細は後記する。
 出力部40は、演算部30による演算結果を出力する出力手段である。出力部40は、例えばディスプレイ、プリンタまたはスマートフォン等で構成される。出力部40は、例えば、相指定部31によって指定された金属組織の相、特徴値算出部32によって算出された金属組織の相の特徴値、相分類部33による金属組織の相の分類結果、撮影条件決定部34によって決定された撮影条件等を出力する。なお、出力部40による出力形式は特に限定されず、例えばテキストファイルや画像ファイル等のデータや、出力装置に投影する形式で出力してもよい。
(撮影条件決定方法/撮影方法)
 撮影条件決定装置1を用いた撮影条件決定方法および撮影装置を用いた撮影方法について、図2を参照しながら説明する。撮影条件決定方法では、研磨工程S1と、エッチング工程S2と、第一の撮影工程S3と、相指定工程S4と、特徴値算出工程S5と、相分類工程S6と、撮影条件決定工程S7と、をこの順で行う。また、撮影方法では、撮影条件決定方法の各工程の後に、第二の撮影工程S8を行う。以下、各工程について説明する。
<研磨工程S1>
 研磨工程S1では、観察対象の金属材料に対して、粗研磨および仕上げ研磨を順に行う。粗研磨では、例えば紙に砥粒を塗布した市販の紙やすりを用い、肉眼レベルで見える傷を除去する。続いて、仕上げ研磨では、0.05μm~2μmの研磨材を用いたバフ研磨を行う。研磨剤としては、例えばダイヤモンドやシリカ等の公知の研磨剤を用いることができる。また、仕上げ研磨では、例えば光学顕微鏡によって10倍~500倍で観察した際に傷が見えなくなるまでバフ研磨を行う。また、研磨傷が多く残っているとエッチングむらの原因となり、相を分類する際の誤差の要因となるため、可能な限り傷が残らないように研磨を行う。仕上げ研磨では、好ましくは光学顕微鏡によって1000倍以下で観察した際に傷が見えなくなるためバフ研磨を行う。
<エッチング工程S2>
 金属材料では、フェライト相やマルテンサイト相等の相によって腐食量が異なるため、エッチングを行うことにより、相ごとにコントラストを付けることができ、相の分類が可能となる。エッチング工程S2では、エタノールおよび硝酸を混合して作成された、硝酸濃度が0.5%~8%のナイタール溶液を用い、金属材料(試料)を0.5s~10.0sの間ナイタール溶液に浸漬させた後、蒸留水によって洗浄を行う。
 エッチング工程S2では、金属材料をナイタール溶液に浸漬させる代わりに、ナイタール溶液を霧吹きにより金属材料に吹き付け、0.5s~10.0s経過した後に蒸留水で洗浄してもよい。また、エッチング工程S2では、金属材料をナイタール溶液に浸漬させる代わりに、ガーゼ等の柔らかい布を用いてナイタール溶液を金属材料に付着させ、0.5s~10.0s経過した後に蒸留水で洗浄してもよい。なお、エッチング工程S2では、モデルを生成した際のエッチング工程のエッチング溶液との硝酸濃度差が0.1%未満、かつ浸漬時間差が2.0s未満の条件でエッチングを行うことが好ましい。これにより、後記する相分類工程S6における分類精度を向上(分類誤差を減少)させることができる。
<第一の撮影工程S3>
 第一の撮影工程S3では、撮影部10が、所定の試料調整(上記研磨工程S1およびエッチング工程S2)が施された金属材料の金属組織の一部分(金属組織の一部の視野)を、予め定めた撮影条件の下で撮影する。前記した「撮影条件」としては、撮影部10が走査型電子顕微鏡である場合は、コントラスト値およびブライトネス値が含まれ、撮影部10が光学顕微鏡である場合は、光源の強さが含まれる。
 第一の撮影工程S3では、具体的には、金属組織の一部分を、予め定めた複数の撮影条件の下で撮影する。すなわち、撮影部10が走査型電子顕微鏡である場合は、コントラスト値またはブライトネス値を変化させながら、金属組織の同一部分の画像を複数枚撮影する。また、撮影部10が光学顕微鏡である場合は、光源の強さを変化させながら、金属組織の同一部分の画像を複数枚撮影する。
<相指定工程S4>
 相指定工程S4では、相指定部31が、第一の撮影工程S3で撮影した組織画像について、金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与することにより相を指定する。「組織画像の各相の画素に各相のラベルを付与する」とは、例えばDP鋼板の場合、組織画像内でフェライト相およびマルテンサイト相に対応する画素を特定し、組織画像の画素とフェライト相およびマルテンサイト相とを対応付けることを示している(図8参照)。なお、各相の指定は、組織画像の画素一点一点をポイントで複数点指定してもよく、あるいは結晶粒サイズ程度の大きさを囲うことにより面で指定してもよい。また、相指定工程S4では、後記する第二の撮影工程S8における相の分類精度を向上(分類誤差を減少)させるために、各相二つ以上の領域を面で指定することが好ましい。
<特徴値算出工程S5>
 特徴値算出工程S5では、特徴値算出部32が、相指定工程S4で各相のラベルを付与した画素について、一つ以上の特徴値を算出する。例えば以下の特徴値(1)~(8)のうちの一つ以上の特徴値を算出する。
(1)恒等特徴値
 恒等特徴値は、組織画像の輝度値そのものを示す特徴値である。
(2)Mean特徴値
 Mean特徴値は、組織画像の所定の範囲における輝度値の平均値を示す特徴値である。すなわち、Mean特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、その中の輝度値を平均したものである。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Mean特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
 ここで、「組織画像に含まれるノイズ」とは、例えば組織画像の中で輝度値が急に高くなるような部分を示している(例えば図3の(b)のA部参照)。そして、「画素数x,yをノイズより大きく」するとは、ノイズの幅(同図の(b)のB部参照)より大きくすることを示している。なお、図3の(a)は、走査型電子顕微鏡で撮影した組織画像(原画像)を、(b)は、この組織画像の中心部(L1線の位置)の輝度値のラインプロファイルを示している。
(3)Gausian特徴値
 Gausian特徴値は、組織画像の所定の範囲において、中心に近いほど重みを大きくした輝度値の平均値を示す特徴値である。すなわち、Gausian特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、中心の画素ほど重みを大きくした平均値を取り出したものである。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Gausian特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
 また、Gausian特徴値を算出する際に、中心の画素にどの程度の重みをつけるかは、作業者が任意に設定することができるが、下記式(1)に示したガウス関数を用いることが好ましい。
Figure JPOXMLDOC01-appb-M000001
 なお、上記式(1)のΔxおよびΔyは、下記式(2)、(3)のように示すことができる。
Figure JPOXMLDOC01-appb-M000002
(4)Median特徴値
 Median特徴値は、組織画像の所定の範囲における輝度値の中心値を示す特徴値である。すなわち、Median特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、その中の輝度値から中心地を取り出したものである。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Median特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
(5)Max特徴値
 Max特徴値は、組織画像の所定の範囲における輝度値の最大値を示す特徴値である。すなわち、Max特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、その中の輝度値から最大値を取り出したものである。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Max特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
(6)Min特徴値
 Min特徴値は、組織画像の所定の範囲における輝度値の最小値を示す特徴値である。すなわち、Min特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、その中の輝度値から最小値を取り出したものである。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Min特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
(7)Derivative特徴値
 Derivative特徴値は、組織画像の各相から所定の範囲「画素数x×画素数y」を取り出し、そのうちの端の画素に対してx方向およびy方向の微分値を計算したものであり、各方向ごとに特徴値を演算する。「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましく、複数の方向の微分値を演算することが望ましい。また、Derivative特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
(8)Derivative加算特徴値
 Derivative加算特徴値は、上記のDerivative特徴値に対して、上記のMean特徴値、Gaussian特徴値、Median特徴値、Max特徴値およびMin特徴値のいずれは、またはこれらから選択した複数の特徴値を演算することにより、1方向または複数の方向のDerivative特徴値を加算したものである。前記した「画素数x」および「画素数y」は、同一のサイズでもよく、異なるサイズでもよい。また、「画素数x」および「画素数y」は、例えば組織画像に含まれるノイズよりも大きく、かつ金属組織の複数の相のうち、結晶粒径が小さい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。また、異方性がある場合は、各x方向、y方向の結晶粒サイズの大きさ程度に設定することが好ましい。また、x画素×y画素の領域は、長方形である必要はなく、例えば組織画像が球状の形状である場合は、x画素×y画素の領域も球状にすることが好ましい。また、Derivative加算特徴値は、複数の画素数x,yについて算出してもよい。なお、画素の範囲を大きくしすぎると、粒界の影響や隣接する他相の影響が受ける。そのため、画素の範囲は、結晶粒径が大きい方の結晶粒径の1/2未満の大きさが含まれる範囲とすることが好ましい。
 ここで、上記の特徴値(1)~(8)は、各相の多数の画素に対して演算を行うため、同一の相であっても異なる特徴値を有し、各相に対して特徴値のヒストグラムを作成することができる。また上記の特徴値(1)~(8)を全て算出してもよく、一部の特徴値のみを算出してもよい。また、各特徴値の演算を組み合わせた特徴値を追加してもよく、必要に応じて上記に挙げていない特徴値を追加してもよい。これらの選択は、相の分類精度が向上するように作業者が選択することが好ましく、各相の特徴値の差異が大きい特徴値を採用することが好ましい。
 なお、上記の特徴値(1)~(8)を算出する際は、所定の範囲「画素数x×画素数y」を取り出して特徴値を算出するが、この「画素数x×画素数y」の中心の画素に対して畳み込まれた特徴値を算出する。そして、組織画像上で「画素数x×画素数y」を動かしながら、各位置の特徴値を算出する。また、「画素数x×画素数y」が組織画像上の端(上下左右の端)に位置している場合は、境界条件を課すか、あるいは画素数を中心から端までに限定して特徴値の算出を行う。また、境界条件として、「画素数x×画素数y」の中心から外側の画素については、「画素数x×画素数y」の中心と同じ特徴値であるとする。あるいは中心から外側に向かって線形関数、指数関数、スプライン関数等の補間関数を用いて外挿することにより、特徴値の算出を行う。
<相分類工程S6>
 相分類工程S6では、相分類部33が、予め生成されたモデル(例えば決定木)を用いてセグメンテーションを行う。すなわち、相分類工程S6では、各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデル(例えば決定木)に対して、特徴値算出工程S5で算出した特徴値を入力する。そして、入力した特徴値に対応する画素の相のラベルを取得することにより、組織画像の金属組織の相を分類する。
 <撮影条件決定工程S7>
 撮影条件決定工程S7では、撮影条件決定部34が、相分類工程S6の分類結果に基づいて、第一の撮影工程S3で撮影した部分とは異なる金属組織のその他の部分(金属組織のその他の視野)を撮影する際の撮影条件を決定する。撮影条件決定工程S7では、具体的には、第一の撮影工程S3で用いた複数の撮影条件のうち、相分類工程S6における各相の分類精度が最も高くなる撮影条件を、金属組織のその他の部分を撮影する際の撮影条件として決定する。
 撮影条件決定工程S7では、例えば、二つの相(フェライト相およびマルテンサイト相)の正答率にそれぞれ所定の重み付けを行った重み付き平均化正答率が最大となるように、撮影条件を決定する。なお、二つの相のうち、一方の相の正答率をより重視する場合は、当該一方の相の正答率に付与する重みを大きくする。また、両方の相の正答率を均等とする場合は、両方の相の正答率に付与する重みを同じ値とする。
 また、撮影条件決定工程S7では、相指定工程S4で指定した相が80%以上の精度で分類されるような撮影条件を選択する。好ましくは、95%以上の精度で分類されるような撮影条件を選択する。なお、相の分類にあたっては、前記した決定木からなるモデルを用いて分類する手法以外の方法を用いてもよく、例えば特徴値からなる特徴ベクトルの内積を算出することにより相の分類を行ってもよい。
 <第二の撮影工程S8>
 第二の撮影工程S8では、撮影部10が、金属組織のその他の部分を、撮影条件決定工程S7で決定された撮影条件の下で撮影する。以上により、本フローは終了する。なお、第二の撮影工程S8の後は、例えば撮影した組織画像に対して、前記した相分類工程S6を実施し、組織画像の金属組織の相を分類する。
 ここで、前記した特徴値算出工程S5を実施した後に、特徴値の算出結果を出力部40から出力してもよい。その際の出力形式は特に限定されず、テキストファイル(例えば数値の集合)または画像ファイル(例えばヒストグラム画像、特徴値を示す組織画像)のいずれの形式で出力してもよい。また、相分類工程S6を実施した後に、相の分類結果を出力部40から出力してもよい。その際の出力形式は特に限定されず、テキストファイルまたは画像ファイル(例えば組織画像に対して、分類した相を色分けして示した画像(以下、「相分類画像」という))のいずれの形式で出力してもよい。また、この相分類画像を、第一の撮影工程S3で撮影した組織画像に重ねて、あるいは当該組織画像と並べて出力部40から出力してもよい。
(モデル生成方法)
 前記した撮影条件決定方法および撮影方法の相分類工程S6で用いるモデルの生成方法について説明する。なお、このモデルは、前記した撮影条件決定方法および撮影方法の実施前に予め生成しておけばよい。モデル生成方法は、研磨工程と、エッチング工程と、撮影工程と、相指定工程と、特徴値算出工程と、モデル生成工程と、をこの順で行う。なお、研磨工程、エッチング工程、撮影工程、相指定工程および特徴値算出工程の具体的な手法は、前記した撮影条件決定方法の各工程と同様である。
 研磨工程およびエッチング工程では、観察対象の金属材料(以下、「観察試料」という)と同種の相を有する金属材料に対して、観察対象の金属材料となるべく同一の研磨およびエッチングを行う。なお、エッチング工程では、前記したエッチング工程S2のエッチング溶液との硝酸濃度差が0.1%未満、かつ浸漬時間差が2.0s未満の条件でエッチングを行うことが好ましい。これにより、前記した相分類工程S6における相の分類精度を向上(分類誤差を減少)させることができる。
 撮影工程では、金属材料の金属組織を撮影する。相指定工程では、撮影工程で撮影した組織画像について、金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与することにより相を指定する。特徴値算出工程では、相指定工程で各相のラベルを付与した画素について、前記した特徴値(1)~(8)のうちの一つ以上の特徴値を算出し、金属組織の相ごとの特徴値を蓄積したデータベースを構築する。
 モデル生成工程では、各相のラベルが付与された画素について特徴値算出工程で算出された特徴値(データベースに蓄積された金属組織の相ごとの特徴値)を入力とし、各相のラベルを出力として学習(機械学習)することにより、モデルを生成する。モデル生成工程では、具体的には、特徴値が分岐条件として設定された決定木を生成する。なお、モデル生成工程における機械学習の手法は、決定木に限定されず、例えばランダムフォレストまたはニューラルネットワーク等であってもよいが、本実施形態では決定木を一例に説明を行う。
 モデル生成工程では、具体的には、特徴値算出工程で算出した各相の特徴値から、二値化を複数回繰り返すことにより、金属組織の相を分類する。この場合、予め、作業者が指定した相と特徴値算出工程で算出した各相の特徴値から、どの程度の精度で各相の分類を行うのかを設定し、その設定した数値情報に基づいて、二値化による分岐の学習を行う。
 例えば、80%の精度で二値化の分岐が実施されるように設定した場合、指定した相とその特徴値から、80%以上の確率で相の分類が実施されるように、特徴値の二値化を複数繰り返して学習することにより、決定木を作成する。前記した精度の設定は、作業者によって任意に設定すればよいが、下限を80%以上とすることが好ましい。精度を80%未満にすると、分類精度が低下する。また逆に、精度を高くしすぎると過学習により、学習後の画像分類において分類精度が却って悪化する。そのため、精度の上限は99%未満とすることが好ましい。
 モデル生成工程において、二値化を複数回実施する際の各特徴値の二値化の順序(分岐の順序)は、予め作業者によって指定してもよく、あるいは乱数を用いてランダムに決定してもよい。各特徴値の二値化の最適な順序は予め不明な場合が多いため、乱数を用いて、前記した精度以上で分類できる各特徴値の二値化の順序を、コンピュータで探索させることが好ましい。同様に、各特徴値の二値化の最適な回数は予め不明な場合が多いため、前記した精度以上で分類できる各特徴値の二値化の回数を、コンピュータで探索させることが好ましい。また、二値化の際の分岐条件として用いる特徴値は、分岐条件として複数回用いてもよい。
(相分類方法)
 本実施形態に係る金属組織の相分類方法は、前記した撮影方法により金属組織を撮影し、該金属組織の金属組織の相を分類する。相分類方法を実行する相分類装置は、撮影条件決定装置1と同一の構成によって実現してもよく、撮影条件決定装置1と別の構成によって実現してもよい。
 以上説明したような本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1、金属組織の撮影装置および金属組織の相分類装置によれば、次のような効果を奏する。すなわち、機械特性や腐食特性等の種々の材料特性に大きな影響を与える重要な金属組織の相を分類するセグメンテーションにあたり、エッチング条件、撮影手段または撮影者に応じて撮影条件が変動する場合においても、金属組織の相を精度よく分類することができる。加えて、定量的な評価を行うことができる撮影条件を決定することができる。
 本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1、金属組織の撮影装置および金属組織の相分類装置では、試料調整後の金属材料の組織画像を撮影するにあたり、次のような処理を行う。まず、予め分類する相を複数指定し、指定した領域を、予め用意したモデルに基づいて精度良く分類できる撮影条件(例えばコントラスト値)に自動的に調整する。そして、このように調整された撮影条件のもとで残りの金属材料を撮影することにより、わずかなエッチング条件の変化によって変動するコントラスト値の差に対応することができる。
 また、撮影者または撮影手段が異なる場合においても、自動で精度よくセグメンテーションを行うことができる。例えば従来の手法では、観察試料の観察時に、モデルを生成した際と同じ条件で研磨・エッチングを実施しなければ精度よくセグメンテーションを行うことができなかった。一方、本発明に係る手法を用いることにより、モデル生成時の研磨・エッチング条件から外れた場合においても、精度よくセグメンテーションを行うことができる。これにより、制御が困難な研磨・エッチング条件を揃える必要がなくなり、組織画像を効率的に分類することが可能となる。
 本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1、金属組織の撮影装置および金属組織の相分類装置では、次のような条件下でも組織画像の相の分類を精度よく行うことができる。例えば研磨工程における仕上研磨の研磨材の粗さが0.05μm~2μmの範囲内であり、エッチング工程におけるエッチング溶液の硝酸濃度が0.5%~8%の範囲内である場合においても、組織画像の相の分類を精度よく行うことができる。
[第二実施形態]
 本発明の第二実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置および金属組織の相分類装置について、図4および図5を参照しながら説明する。
(撮影条件決定装置/撮影装置)
 撮影条件決定装置1Aは、図4に示すように、撮影部10と、記憶部20と、演算部50と、出力部40と、を備えている。なお、本実施形態に係る撮影装置は、同図に示した撮影条件決定装置1Aと同一の構成によって実現される。
 撮影部10、記憶部20および出力部40は、前記した第一実施形態に係る撮影条件決定装置1の撮影部10、記憶部20および出力部40と同一であるため、説明を省略する。演算部50は、プログラムの実行を通じて、特徴値算出部51、相分類部52および撮影条件決定部53として機能する。なお、各部の詳細は後記する。
(撮影条件決定方法/撮影方法)
 撮影条件決定装置1Aを用いた撮影条件決定方法および撮影装置を用いた撮影方法について、図5を参照しながら説明する。撮影条件決定方法では、研磨工程S11と、エッチング工程S12と、第一の撮影工程S13と、特徴値算出工程S14と、相分類工程S15と、分類精度判定工程S16と、撮影条件決定工程S17と、をこの順で行う。また、撮影方法では、撮影条件決定方法の各工程の後に、第二の撮影工程S18を行う。
 ここで、研磨工程S11、エッチング工程S12、特徴値算出工程S14、相分類工程S15および第二の撮影工程S18は、第一実施形態の研磨工程S1、エッチング工程S2、特徴値算出工程S5、相分類工程S6および第二の撮影工程S8と同様である。そのため、説明を省略する。また、相分類工程S15で用いるモデルについても、前記した第一実施形態の相分類工程S6で用いるモデルと同様である。
 なお、エッチング工程S12では、モデルを生成した際のエッチング工程のエッチング溶液との硝酸濃度差が0.1%未満、かつ浸漬時間差が2.0s未満の条件でエッチングを行うことが好ましい。これにより、第二の撮影工程S18での分類精度を向上(分類誤差を減少)させることができる。また、上記の条件でエッチングを行うことにより、第一の撮影工程S13における撮影条件(例えばコントラスト値)の変更幅で小さくすることができるため、連続撮影する画像の枚数を減らすことができる。
<第一の撮影工程S13>
 第一の撮影工程S13では、撮影部10が、所定の試料調整(上記研磨工程S11およびエッチング工程S12)が施された金属材料の金属組織の一部分(金属組織の一部の視野)を、撮影条件を変更しながら連続的に撮影する。すなわち、第一の撮影工程S13では、前記した「撮影条件」としては、撮影部10が走査型電子顕微鏡である場合は、コントラスト値およびブライトネス値が含まれる。また、前記した「撮影条件」としては、撮影部10が光学顕微鏡である場合は、光源の強さが含まれる。
 第一の撮影工程S13では、撮影部10が走査型電子顕微鏡である場合は、0.5kV~20kVの加速電圧を用いる。そして、撮影者が最初に設定したコントラスト値およびブライトネス値を基準として、コントラスト値およびブライトネス値を前後に変更させながら、自動で5枚以上の連続撮影を行う。また、撮影部10が光学顕微鏡である場合は、撮影者が最初に設定した光源の強さを中心として、光源の強さを前後に変更しながら、自動で5枚以上の連続撮影を行う。なお、光学顕微鏡の光源としては、例えば反射ミラー、タングステンランプまたはハロゲンランプを用いることができる。第一の撮影工程S13では、後記する相分類工程S15における相の分類精度を向上(分類誤差を減少)させるために、なるべく多くの組織画像を撮影することが望ましい。但し、撮影画像が多すぎるとセグメンテーションに多大な時間を要するため、撮影枚数は20枚以下とすることが好ましい。
 <分類精度判定工程S16>
 分類精度判定工程S16では、撮影条件決定部53が、相分類工程S15におけるセグメンテーションの分類精度が所定以上であるか否かを判定する。そして、撮影条件決定部53は、分類精度が所定以上である場合は撮影条件決定工程S17に進み、分類精度が所定以上である場合は第一の撮影工程S13に戻る。
 <撮影条件決定工程S17>
 撮影条件決定工程S17では、撮影条件決定部53が、相分類工程S15の分類結果、すなわち分類精度判定工程S16の判定結果に基づいて、撮影条件を決定する。撮影条件決定工程S17では、第一の撮影工程S13で用いた複数の撮影条件の中から、第一の撮影工程S13で撮影した部分とは異なる金属組織のその他の部分(金属組織のその他の視野)を撮影する際の撮影条件を決定する。撮影条件決定工程S17では、具体的には、第一の撮影工程S13で用いた撮影条件のうち、相分類工程S15における各相の分類精度が最も高くなる撮影条件を、金属組織のその他の部分を撮影する際の撮影条件として決定する。
 ここで、前記した特徴値算出工程S14を実施した後に、特徴値の算出結果を出力部40から出力してもよい。その際の出力形式は特に限定されず、テキストファイル(例えば数値の集合)または画像ファイル(例えばヒストグラム画像、特徴値を示す組織画像)のいずれの形式で出力してもよい。また、相分類工程S15を実施した後に、相の分類結果を出力部40から出力してもよい。その際の出力形式は特に限定されず、テキストファイルまたは画像ファイル(例えば相分類画像)のいずれの形式で出力してもよい。また、この相分類画像を、第一の撮影工程S13で撮影した組織画像に重ねて、または当該組織画像の隣に並べて出力部40から出力してもよい。
 また、前記した撮影条件決定工程S17では、撮影条件決定装置1Aおよび撮影装置を扱う撮影者からの入力を受け付けて撮影条件を決定してもよい。この場合、撮影条件決定部53は、複数の相の分類後の組織画像を、第一の撮影工程S13で撮影した複数の組織画像にそれぞれ重ねて、または複数の組織画像の隣にそれぞれ並べて出力部40から出力する。撮影者は、この出力結果に基づいて、各相の分類精度が最も高いと思われる組織画像(相の分類後の組織画像)を、図示しない入力部を介して選択する。これを受けて、撮影条件決定部53は、撮影者によって選択された組織画像に対応する撮影条件を、金属組織のその他の部分を撮影する際の撮影条件として決定する。
(相分類方法)
 本実施形態に係る金属組織の相分類方法は、前記した撮影方法により金属組織を撮影し、該金属組織の金属組織の相を分類する。相分類方法を実行する相分類装置は、撮影条件決定装置1と同一の構成によって実現してもよく、撮影条件決定装置1と別の構成によって実現してもよい。
 以上説明したような本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1A、金属組織の撮影装置および金属組織の相分類装置によれば、次のような効果を奏する。すなわち、機械特性や腐食特性等の種々の材料特性に大きな影響を与える重要な金属組織の相を分類するセグメンテーションにあたり、エッチング条件、撮影手段または撮影者に応じて撮影条件が変動する場合においても、金属組織の相を精度よく分類することができる。加えて、定量的な評価を行うことができる撮影条件を決定することができる。
 本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1A、金属組織の撮影装置および金属組織の相分類装置では、次のような処理を行う。まず、試料調整後の金属材料の組織画像を撮影するにあたり、撮影条件(例えばコントラスト値)を変化させながら連続的に撮影し、撮影した複数の組織画像の中から、予め用意したモデルに基づいて精度良く分類できる撮影条件を選択する。そして、このように調整された撮影条件のもとで残りの金属材料を撮影することにより、わずかなエッチング条件の変化によって変動するコントラスト値の差に対応することができる。
 また、本実施形態に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置1A、金属組織の撮影装置および金属組織の相分類装置によれば、撮影者または撮影手段が異なる場合においても、精度よくセグメンテーションを行うことができる。例えば従来の手法では、観察試料の観察時に、モデルを生成した際と同じ条件で研磨・エッチングを実施しなければ精度よくセグメンテーションを行うことができなかった。一方、本発明に係る手法を用いることにより、モデル生成時の研磨・エッチング条件から外れた場合においても、精度よくセグメンテーションを行うことができる。これにより、制御が困難な研磨・エッチング条件を揃える必要がなくなり、組織画像を効率的に分類することが可能となる。
(金属材料の材料特性予測装置)
 金属材料の材料特性予測装置(以下、「材料特性予測装置」という)3について、図6を参照しながら説明する。材料特性予測装置3は、入力部70と、出力部80と、演算部90と、記憶部100と、を備えている。
 入力部70は、演算部90に対して、金属組織の相の分類が行われた画像(以下、「分類画像」という)を入力する入力手段である。この分類画像は、上記の金属組織の相の分類方法によって金属組織の相の分類が行われた画像、あるいはその他の輝度値の二値化等の手法によって金属組織の相の分類が行われた画像等である。
 出力部80は、演算部90による演算結果を出力する出力手段である。出力部80は、例えばディスプレイ、プリンタまたはスマートフォン等で構成される。出力部80は、例えば、定量評価部91によって算出された金属組織の定量評価値、記憶部100のデータベースに記録されたデータ、材料特性予測部95による予測結果(金属材料の材料特性)等を出力する。なお、出力部80による出力形式は特に限定されず、例えばテキストファイルや画像ファイル等のデータや、出力装置に投影する形式で出力してもよい。
 演算部90は、演算部30,60と同様に、例えばCPU等からなるプロセッサと、RAMやROM等からなるメモリと、によって実現される。演算部90は、プログラムを主記憶部の作業領域にロードして実行し、プログラムの実行を通じて各構成部等を制御することにより、所定の目的に合致した機能を実現する。また、演算部90は、前記したプログラムの実行を通じて、定量評価部91、データ記録部92、データ選択部93、モデル生成部94および材料特性予測部95として機能する。なお、各部の詳細は後記する(図7参照)。
 記憶部100は、記憶部20と同様に、EPROM、ソリッドステートドライブおよびリムーバブルメディア等の記録媒体から構成される。記憶部100には、例えば所定のデータが記録されたデータベースや、モデル生成部94によって生成された予測モデル(学習済みモデル)等が格納される。前記したデータベースには、例えば定量評価部91によって算出された金属組織の定量評価値、予め機械試験等によって得られた金属材料の材料特性値(鋼板データ)、金属材料の成分組成、金属材料等が記録されている。
(金属材料の材料特性予測方法)
 材料特性予測装置3を用いた金属組織の相の学習方法について、図7を参照しながら説明する。金属組織の相の学習方法は、前記した金属組織の相の分類方法を行った後に、その分類結果(分類画像)を用いて実施する。金属組織の相の学習方法は、画像入力工程S21と、定量評価工程S22と、データ記録工程S23と、データ選択工程S24と、モデル生成工程S25と、材料特性予測工程S26と、予測結果出力工程S27と、をこの順で行う。
<画像入力工程S21>
 画像入力工程S21では、入力部70が、分類画像を演算部90に入力する。
<定量評価工程S22>
 定量評価工程S22では、定量評価部91が、分類画像に含まれる各相を定量評価することにより、金属組織の定量評価値を算出する。定量評価工程S22では、例えば以下の(1)~(5)に示すような定量評価値を算出する。
(1)面積率
 分類した相の面積を求めることにより、相の面積率を算出する。
(2)長径、短径、アスペクト比
 分類した相の各粒の形状を楕円近似することにより、楕円体の長径、短径、またはアスペクト比を算出する。
(3)フェレー径
 分類した相の各粒の界面から直線を引き、その直線の距離が最大となるフェレー径を算出する。
(4)平均径
 分類した相の各粒の面積を求め、その面積の平方根を取ることにより、粒の平均径を導出する。
(5)真円度
 分類した相の各粒の面積および周長を求め、下記式(4)により粒の真円度を算出する。なお、真円度は、粒が真円の場合は1.0となり、反対に粒が真円の形状から離れるほど、1.0よりも小さくなる。
Figure JPOXMLDOC01-appb-M000003
 ここで、上記の定量評価値(2)~(5)は、各粒に対して算出するため、1枚の組織画像に対しても複数の数値を得ることができ、各定量評価値のヒストグラムを作成することができる。
<データ記録工程S23>
 データ記録工程S23では、データ記録部92が、定量評価工程S22で算出した金属組織の定量評価値を、記憶部100のデータベースに記録する。
<データ選択工程S24>
 データ選択工程S24では、データ選択部93が、データベースに記録された金属組織の定量評価値と、金属材料の材料特性のデータの中から、金属材料の材料特性の予測に使用するデータを選択(抽出)する。
 なお、定量評価値は、粒ごとに算出するため、1枚の組織画像について複数の数値が得られるものがある。例えば、定量評価値(4)の平均径は、粒ごとに1つの平均径が得られるため、1枚の画像に対し、複数の数値が得られる。これらの複数の数値情報のうち、平均値を算出し、当該平均値のみを材料特性の予測に用いてもよく、標準偏差を材料特性の予測に用いてもよい。また、データ選択工程S24では、後記する予測モデル生成工程S25において、材料特性の予測精度のよい定量評価値を選択することが望ましい。そのため、例えば後記する材料特性予測工程S26において、予測精度が悪い場合は、本工程に戻り、再度データの選択を実施することが好ましい。なお、金属組織の定量評価値の他に、金属材料の成分組成や熱処理条件を入力してもよい。
<予測モデル生成工程S25>
 予測モデル生成工程S25では、モデル生成部94が、データ選択工程S24で選択したデータを用いて、金属材料の材料特性を予測する予測モデルを生成する。予測モデル生成工程S25では、具体的には、データ選択工程S24で選択した定量評価値、金属材料の成分組成、熱処理条件等を用いて、材料特性を予測する予測モデルを生成する。その際、同じくデータ選択工程S24で選択した金属材料の材料特性のデータも用いて予測モデルを生成する。
 予測モデルは、ニューラルネットワーク、サポートベクトル回帰、ガウス過程回帰等のモデルを用いて生成してもよく、線形回帰等の単純な回帰式をとして生成してもよい。また、予測モデルの生成では、複数の予測モデルを用いて材料特性の予測を行い、最も予測精度の高い予測モデルを採用することが好ましい。
 材料特性の予測精度は、例えば測定値をX軸に、予測値をY軸に取り、両者のデータがどの程度一致しているのかを二次元のグラフで確認するか、あるいは各データの予測誤差を加え、データ数で除したパラメータ等で評価する。また、材料特性の予測精度は、例えば以下のような手順で評価することが好ましい。まず、データベースから選択したデータを、予測モデルにおけるパラメータフィッティングに用いるデータ(訓練データ)と、フィッティングに用いないデータ(テストデータ)とに分割する。そして、テストデータの予測値と実測値の一致度に基づいて材料特性の予測精度を評価する。なお、データベースから選択したデータを訓練データとテストデータとに分割する場合、作業者が選択して分割してもよく、あるいは訓練データおよびテストデータの割合を決めた後、乱数等を用いてランダムに決めてもよい。
<材料特性予測工程S26>
 材料特性予測工程S26では、材料特性予測部95が、予測モデル生成工程S25で生成した予測モデルを用いて、金属材料の材料特性を予測する。材料特性予測工程S26では、具体的には、データ選択工程S24で選択した定量評価値を、予測モデル生成工程S25で生成した予測モデルに入力することにより、金属材料の材料特性を予測する。
<予測結果出力工程S27>
 予測結果出力工程S27では、出力部80が、材料特性予測工程S26における予測結果、すなわち金属材料の材料特性を出力する。
 ここで、従来の方法では、効率的な金属組織の相の分類や、相を分類した画像を用いた金属組織の定量評価が困難であったため、組織画像から正確な材料特性の予測が困難であった。一方、本実施形態に係る金属材料の材料特性予測方法および金属材料の材料特性予測装置によれば、金属組織の相の分類結果から定量評価を効率的に実施できる。そのため、定量評価値と金属材料の材料特性との相関を導くことにより、金属材料の材料特性を精度よく予測することができる。これにより、金属組織の画像を見ると同時に、金属材料の材料特性を把握することできるため、金属材料(例えば鋼板)開発の効率性を向上させることができる。
 また、本実施形態に係る金属材料の材料特性予測方法および金属材料の材料特性予測装置によれば、組織画像の効率的なセグメンテーションにより、これまでと異なり効率的に金属組織の定量評価が可能となる。また、このように定量化した指標を用いることにより、撮影した組織画像の材料特性を精度よく予測することができる。
(実施例1)
 本発明の第一実施形態に係る撮影条件決定方法および撮影方法の実施例について、図8~図12を参照しながら説明する。本実施例では、まずフェライト相およびマルテンサイト相の特徴値のデータベースを構築するために、DP鋼板(以下、「試料」という)を粗研磨後、光学顕微鏡によって500倍で観察した際に傷が見えなくなるまで、0.06μmのアルミナを研磨剤として仕上げ研磨を行った(研磨工程)。続いて、仕上げ研磨後の試料に対して、硝酸濃度1%のナイタール溶液を染み込ませたガーゼで3s擦った後に、蒸留水で洗浄することでエッチングを行った(エッチング工程)。続いて、走査型電子顕微鏡を用いて、エッチング後の試料の組織画像を撮影した(撮影工程)。
 続いて、図8に示すように、組織画像において、フェライト相およびマルテンサイト相を指定した(相指定工程)。続いて、指定した二つの相について、恒等特徴値、2pixel~32pixelのMean特徴値、Gausian特徴値、Median特徴値、Max特徴値、Min特徴値、Derivative特徴値およびDerivative加算特徴値を算出し、相ごとの特徴値のデータベースを構築した(特徴値算出工程)。続いて、先に指定したフェライト相およびマルテンサイト相が95%以上の精度で分類されるよう、二値化を繰り返し行うことにより、フェライト相とマルテンサイト相とを分類する決定木を作成した(モデル生成工程)。
 続いて、データベースを構築した際の試料とは異なる試料を粗研磨した後、以下の表1に示した、データベースを構築した際とは異なる二通りの方法(方法Aおよび方法B)で仕上げ研磨およびエッチングを行った(研磨工程およびエッチング工程)。続いて、走査型電子顕微鏡を用いて、エッチング後の二つの試料の一部分の組織画像を、複数のコントラスト値で撮影した(第一の撮影工程)。続いて、撮影後の2種類の試料の組織画像について、それぞれ図9の(a)および(b)に示すように、フェライト相およびマルテンサイト相を複数指定した(相指定工程)。続いて、指定した領域に対して、データベースの構築時と同様の特徴値を算出し(特徴値算出工程)、決定木に基づいて相の分類を行った(相分類工程)。
Figure JPOXMLDOC01-appb-T000004
 続いて、図10の(a)~(d)に示すように、撮影時のコントラスト値のうち、最も精度よく分類できるコントラスト値を決定した(撮影条件決定工程)。なお、図10の(b)では、(a)で正しく分類できた領域を灰色で示している。また、図10の(d)では、(c)で正しく分類できた領域を灰色で示している。続いて、決定したコントラスト値の下で、二つの試料のその他の部分の組織画像を撮影した(第二の撮影工程)。
 表1の方法Aによって試料調整した試料の組織画像についてセグメンテーションを行った結果を図11の(a)に、方法Bによって試料調整した試料の組織画像についてセグメンテーションを行った結果を図11の(b)に、それぞれ示す。また、比較のため、表1の方法Aおよび方法Bによって試料調整した試料について、本発明の手法によるコントラスト調整を行うことなく撮影した組織画像のセグメンテーション結果を、図12の(a)および(b)にそれぞれ示す。
 図11の(a)および(b)に示すように、本発明の手法によるコントラスト調整を行うことにより、精度よく分類することができることがわかる。一方、図12の(a)および(b)に示すように、本発明の手法によるコントラスト調整を行わない場合、精度よく分類することができないことがわかる。
 このように、本発明の手法を用いることにより、データベースの構築時とは異なるエッチング条件で調整した試料に対しても、セグメンテーション時の分類精度が高くなるコントラスト値を求めることができるため、セグメンテーションを精度よく行うことが可能となる。
(実施例2)
 本発明の第二実施形態に係る撮影条件決定方法および撮影方法の実施例について、図8、図13~図15を参照しながら説明する。本実施例では、まずフェライト相およびマルテンサイト相の特徴値のデータベースを構築するために、DP鋼板(以下、「試料」という)を粗研磨後、光学顕微鏡によって500倍で観察した際に傷が見えなくなるまで、0.06μmのアルミナを研磨剤として仕上げ研磨を行った(研磨工程)。続いて、仕上げ研磨後の試料に対して、硝酸濃度1%のナイタール溶液を染み込ませたガーゼで3s擦った後に、蒸留水で洗浄することでエッチングを行った(エッチング工程)。続いて、走査型電子顕微鏡を用いて、エッチング後の試料の組織画像を撮影した(撮影工程)。
 続いて、図8に示すように、組織画像において、フェライト相およびマルテンサイト相を指定した(相指定工程)。続いて、指定した二つの相について、恒等特徴値、2pixel~32pixelのMean特徴値、Gausian特徴値、Median特徴値、Max特徴値、Min特徴値、Derivative特徴値およびDerivative加算特徴値を算出し、相ごとの特徴値のデータベースを構築した(特徴値算出工程)。続いて、先に指定したフェライト相およびマルテンサイト相が95%以上の精度で分類されるよう、二値化を繰り返し行うことにより、フェライト相とマルテンサイト相とを分類する決定木を作成した(モデル生成工程)。
 続いて、データベースを構築した際の試料とは異なる試料を粗研磨した後、前記した表1に示した、データベースを構築した際とは異なる二通りの方法(方法Aおよび方法B)で仕上げ研磨およびエッチングを行った(研磨工程およびエッチング工程)。続いて、走査型電子顕微鏡を用いて、15kVの加速電圧でコントラスト値を自動で連続的に変化させながら、エッチング後の二つの試料の一部分の組織画像を、5枚連続撮影した(第一の撮影工程)。続いて、2種類×5枚の試料の組織画像について、データベースの構築時と同様の特徴値を算出し(特徴値算出工程)、決定木に基づいて相の分類を行った(相分類工程)。
 表1の方法Aによって試料調整した試料の組織画像についてセグメンテーションを行った結果を図13に、方法Bによって試料調整した試料の組織画像についてセグメンテーションを行った結果を図14に、それぞれ示す。また、比較のため、第一の撮影工程で連続撮影をせずに一枚のみ撮影し、セグメンテーションを行った結果を図15の(a)および(b)に示す。なお、図13および図14では、左から順番に、第一の撮影工程で撮影した組織画像、相分類工程における相の分類結果を示す相分類画像、分類精度の良否を示している。
 図13のセグメンテーション結果では、(e)の場合に相の分類精度が最もよい。そのため、第二の撮影工程において、(e)の組織画像を撮影した際のコントラスト値を用いて、金属組織のその他の部分を撮影すればよいことがわかる。また、図14のセグメンテーション結果では、(c)の場合に相の分類精度が最もよい。そのため、第二の撮影工程において、(c)の組織画像を撮影した際のコントラスト値を用いて、金属組織のその他の部分を撮影すればよいことがわかる。一方、図15のセグメンテーション結果では、相の分類精度が悪いため、第二の撮影工程において、同図の組織画像を撮影した際のコントラスト値を用いて撮影した場合、相の分類精度は当然悪いことが予想される。
 このように、本発明の手法を用いることにより、データベースの構築時とは異なるエッチング条件で調整した試料に対しても、セグメンテーション時の分類精度が高くなるコントラスト値を求めることができるため、セグメンテーションを精度よく行うことが可能となる。
(実施例3)
 本発明に係る金属材料の材料特性予測方法および金属材料の材料特性予測装置の実施例3について、図16~図18を参照しながら説明する。
 本実施例では、まず前記した実施例1の分類結果(図11の(a)、(b)参照)を用いて、金属組織の定量評価を行った(定量評価工程)。その際、フェライト相およびマルテンサイト相に対し、面積率および真円度のヒストグラムを算出した。図16の(a)は、実施例1の分類結果(図11の(a)参照)から算出したフェライト相の真円度のヒストグラムを示している。また、図16の(b)は、実施例1の分類結果(図11の(a)参照)から算出したマルテンサイト相の真円度のヒストグラムを示している。また、図17の(a)は、実施例1の分類結果(図11の(b)参照)から算出したフェライト相の真円度のヒストグラムを示している。また、図17の(b)は、実施例1の分類結果(図11の(b)参照)から算出したマルテンサイト相の真円度のヒストグラムを示している。
 続いて、上記で算出した定量評価値のうちのフェライト相およびマルテンサイト相の面積率と真円度の平均値、また定量評価値以外に、金属材料の成分組成を選択し(データ選択工程)、これらのデータを材料特性の予測に用いた。
 続いて、組織画像、金属材料の成分組成および引張強度からなるDP鋼板のデータベースから、100鋼種分のデータをランダムで抽出した。そして、抽出したこれらのデータに対して、同様に相の分類を行った後、前記したフェライト相およびマルテンサイト相の面積率と真円度の平均値を算出した。
 続いて、前記した定量評価値および金属材料の成分組成から引張強度を予測する予測モデルを生成した(予測モデル生成工程)。なお、ここでは、抽出したデータを9:1の割合でランダムに訓練データとテストデータとに分割した。また、ニューラルネットワークモデルを用いて、引張強度を予測する予測モデルを生成した。
 続いて、予測モデルの予測精度を検証するために、引張強度の実測値および予測値の比較を行った。図18は、モデル生成部で生成したニューラルネットワークモデルによる引張強度の予測結果を示している。同図において、横軸は、データベースから抽出した引張強度の平均値と標準偏差を用いて規格化した引張強度の実測値を示している。また、縦軸は、データベースから抽出した引張強度の平均値と標準偏差を用いて規格化した引張強度の予測値を示している。また、同図において、丸いプロット点は、ニューラルネットワークモデルにおけるパラメータ調整に用いたサンプル(訓練データ)の引張強度の予測結果を示している。また、四角いプロット点は、パラメータ調整に使用していないサンプル(テストデータ)の引張強度の予測結果を示している。
 図18に示すように、訓練データ、テストデータともに、材料特性の予測精度がよく、フェライト相およびマルテンサイト相の面積率、真円度の平均値および金属材料の成分組成を用いることにより、引張強度を精度よく予測できていることがわかる。
 また、予測モデルの構築後、算出した定量評価値および金属材料の成分組成を用いて、図11の(a)および(b)の金属組織に対応する引張強度の予測値を算出した。組織画像から算出した定量評価値、引張強度の予測値および実測値を表2に示す。表2に示すように、引張強度を精度よく予測できていることがわかる。
Figure JPOXMLDOC01-appb-T000005
 以上、本発明に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置について、発明を実施するための形態および実施例により具体的に説明したが、本発明の趣旨はこれらの記載に限定されるものではなく、請求の範囲の記載に基づいて広く解釈されなければならない。また、これらの記載に基づいて種々変更、改変等したものも本発明の趣旨に含まれることはいうまでもない。
 ここで、本発明に係る金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法および金属材料の材料特性予測方法は、当該方法を実装したソフトウェアを、一般に市販されているコンピュータに導入することにより実現してもよい。一般に市販されているコンピュータとは、例えば各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記ソフトウェアおよび各種データがコンピュータ(またはCPU)で読み取り可能な形で記録された記録媒体(例えばハードディスク、USBメモリ)、上記プログラムを展開するRAM、画像処理に特化したプロセッサであるGPU等を備えた演算器である。また市販されているコンピュータのみならず、ネットワーク上のクラウドコンピュータにソフトウェアを導入することにより、実現してもよい。
 また、本発明に係る撮影条件決定装置1、撮影装置、相分類装置および材料特性予測装置3は、図1および図6に示すように、一つの構成として説明したが、別々の装置によって実現してもよく、あるいは一つの装置によって実現してもよい。
 また、本実施形態では、二相鋼板を例に説明を行ったが、三相以上の鋼板に対しても、適用することは可能である。
 1,1A 撮影条件決定装置
 3 材料特性予測装置 
 10 撮影部
 20 記憶部
 30 演算部
 31 相指定部
 32 特徴値算出部
 33 相分類部
 34 撮影条件決定部
 40 出力部
 50 演算部
 51 特徴値算出部
 52 相分類部
 53 撮影条件決定部 
 70 入力部
 80 出力部
 90 演算部
 91 定量評価部
 92 データ記録部
 93 データ選択部
 94 モデル生成部
 95 材料特性予測部
 100 記憶部

Claims (14)

  1.  金属材料の金属組織を撮影する際の撮影条件決定方法であって、
     所定の試料調整が施された前記金属材料の金属組織の一部分を、予め定めた撮影条件の下で撮影する撮影工程と、
     前記撮影工程で撮影した画像について、前記金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与する相指定工程と、
     前記相指定工程で各相のラベルを付与した画素について、一つ以上の特徴値を算出する特徴値算出工程と、
     各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出工程で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類工程と、
     前記相分類工程の分類結果に基づいて、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定工程と、
     を含む金属組織の撮影条件決定方法。
  2.  前記撮影工程は、前記金属組織の一部分を、予め定めた複数の撮影条件の下で撮影し、
     前記撮影条件決定工程は、前記撮影工程で用いた複数の撮影条件のうち、前記相分類工程における各相の分類精度が最も高くなる撮影条件を、前記金属組織のその他の部分を撮影する際の撮影条件として決定する、
     請求項1に記載の金属組織の撮影条件決定方法。
  3.  金属材料の金属組織を撮影する際の撮影条件決定方法であって、
     所定の試料調整が施された前記金属組織の一部分を、撮影条件を変更しながら連続的に撮影する撮影工程と、
     前記撮影工程で撮影した画像について、一つ以上の特徴値を算出する特徴値算出工程と、
     前記金属組織の予め定めた一または複数の相のラベルが付与された画素の特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出工程で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類工程と、
     前記相分類工程の分類結果に基づいて、前記撮影工程で用いた複数の撮影条件の中から、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定工程と、
     を含む金属組織の撮影条件決定方法。
  4.  前記撮影条件決定工程は、前記撮影工程で用いた撮影条件のうち、前記相分類工程における各相の分類精度が最も高くなる撮影条件を、前記金属組織のその他の部分を撮影する際の撮影条件として決定する、
     請求項3に記載の金属組織の撮影条件決定方法。
  5.  前記撮影条件は、コントラスト値、ブライトネス値および光源の強さのうちの少なくとも一つを含む請求項1から請求項4のいずれか一項に記載の金属組織の撮影条件決定方法。
  6.  前記撮影工程の前に、
     前記金属材料を粗研磨した後に、0.05μm~2μmの研磨材を用いたバフ研磨を行う研磨工程と、
     エタノールおよび硝酸を混合して作成された、硝酸濃度が0.5%~8%のナイタール溶液を用いて前記金属材料をエッチングするエッチング工程と、
     を含む請求項1から請求項5のいずれか一項に記載の金属組織の撮影条件決定方法。
  7.  請求項1から請求項6のいずれか一項に記載の金属組織の撮影条件決定方法の後に、
     前記金属材料の金属組織のその他の部分を、前記撮影条件決定方法で決定された撮影条件の下で撮影する金属組織の撮影方法。
  8.  請求項7に記載の金属組織の撮影方法により金属組織を撮影し、該金属組織の金属組織の相を分類する金属組織の相分類方法。
  9.  金属材料の金属組織を撮影する際の撮影条件決定装置であって、
     所定の試料調整が施された前記金属材料の金属組織の一部分を、予め定めた撮影条件の下で撮影する撮影部と、
     前記撮影部で撮影した画像について、前記金属組織の予め定めた一または複数の相に対応する画素に対し、各相のラベルを付与する相指定部と、
     前記相指定部で各相のラベルを付与した画素について、一つ以上の特徴値を算出する特徴値算出部と、
     各相のラベルが付与された特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出部で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類部と、
     前記相分類部の分類結果に基づいて、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定部と、
     を備える金属組織の撮影条件決定装置。
  10.  金属材料の金属組織を撮影する際の撮影条件決定装置であって、
     所定の試料調整が施された前記金属組織の一部分を、撮影条件を変更しながら連続的に撮影する撮影部と、
     前記撮影部で撮影した画像について、一つ以上の特徴値を算出する特徴値算出部と、
     前記金属組織の予め定めた一または複数の相のラベルが付与された画素の特徴値を入力とし、各相のラベルを出力として予め学習されたモデルに対して、前記特徴値算出部で算出した特徴値を入力し、入力した特徴値に対応する画素の相のラベルを取得することにより、前記画像の金属組織の相を分類する相分類部と、
     前記相分類部の分類結果に基づいて、前記撮影部で用いた複数の撮影条件の中から、前記金属組織のその他の部分を撮影する際の撮影条件を決定する撮影条件決定部と、
     を備える金属組織の撮影条件決定装置。
  11.  前記金属材料の金属組織のその他の部分を、請求項9または請求項10に記載の撮影条件決定装置によって決定された撮影条件の下で撮影する金属組織の撮影装置。
  12.  請求項11に記載の金属組織の撮影装置により金属組織を撮影し、該金属組織の金属組織の相を分類する金属組織の相分類装置。
  13.  金属材料の材料特性を予測する金属材料の材料特性予測方法であって、
     請求項8に記載の金属組織の相分類方法の後に、
     分類した各相の大きさ、面積率または形状を算出することにより、金属組織の定量評価値を算出する定量評価工程と、
     前記定量評価値と、予め用意された前記金属材料の材料特性との中から、前記金属材料の材料特性の予測に使用するデータを選択するデータ選択工程と、
     選択したデータを用いて、前記金属材料の材料特性を予測する予測モデルを生成するモデル生成工程と、
     生成した予測モデルを用いて前記金属材料の材料特性を予測する材料特性予測工程と、
     を含む金属材料の材料特性予測方法。
  14.  金属材料の材料特性を予測する金属材料の材料特性予測装置であって、
     金属組織の相の分類が行われた画像を入力する入力部と、
     分類した各相の大きさ、面積率または形状を算出することにより、金属組織の定量評価値を算出する定量評価部と、
     前記定量評価値をデータベースに記録するデータ記録部と、
     前記データベースに記録された前記定量評価値および前記金属材料の材料特性の中から、前記金属材料の材料特性の予測に使用するデータを選択するデータ選択部と、
     選択したデータを用いて、前記金属材料の材料特性を予測する予測モデルを生成するモデル生成部と、
     生成した予測モデルを用いて前記金属材料の材料特性を予測する材料特性予測部と、
     予測した前記金属材料の材料特性を出力する出力部と、
     を備える金属材料の材料特性予測装置。
PCT/JP2021/009006 2020-03-31 2021-03-08 金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置 Ceased WO2021199937A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP21782081.0A EP4131159A4 (en) 2020-03-31 2021-03-08 METHOD FOR DETERMINING METALLOGRAPHIC STRUCTURE IMAGING CONDITION, METALLOGRAPHIC STRUCTURE IMAGING METHOD, METHOD FOR CLASSIFYING METALLOGRAPHIC STRUCTURE PHASES, DEVICE FOR DETERMINING METALLOGRAPHIC STRUCTURE IMAGING CONDITION, METALLOGRAPHIC STRUCTURE IMAGING CONDITION DEVICE METALLOGRAPHIC STRUCTURE, DEVICE FOR CLASSIFYING PHASES OF METALLOGRAPHIC STRUCTURE, METHOD FOR PREDICTING MATERIAL PROPERTIES OF METAL MATERIAL, AND DEVICE FOR PREDICTING MATERIAL PROPERTIES OF METAL MATERIAL
KR1020227036044A KR102808719B1 (ko) 2020-03-31 2021-03-08 금속 조직의 촬영 조건 결정 방법, 금속 조직의 촬영 방법, 금속 조직의 상 분류 방법, 금속 조직의 촬영 조건 결정 장치, 금속 조직의 촬영 장치, 금속 조직의 상 분류 장치, 금속 재료의 재료 특성 예측 방법 및 금속 재료의 재료 특성 예측 장치
JP2021533827A JP7173345B2 (ja) 2020-03-31 2021-03-08 金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置
US17/915,126 US12106466B2 (en) 2020-03-31 2021-03-08 Photographing condition determining method for metal structure, photographing method for metal structure, phase classification method for metal structure, photographing condition determining device for metal structure, photographing device for metal structure, phase classification device for metal structure, material property estimating method for metal material, and material property estimating device for metal material
CN202180025636.XA CN115398228B (zh) 2020-03-31 2021-03-08 金属组织的拍摄条件确定方法及装置、拍摄方法及装置、相分类方法及装置、材料特性预测方法及装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020063414 2020-03-31
JP2020-063414 2020-03-31

Publications (1)

Publication Number Publication Date
WO2021199937A1 true WO2021199937A1 (ja) 2021-10-07

Family

ID=77929098

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/009006 Ceased WO2021199937A1 (ja) 2020-03-31 2021-03-08 金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置

Country Status (6)

Country Link
US (1) US12106466B2 (ja)
EP (1) EP4131159A4 (ja)
JP (1) JP7173345B2 (ja)
KR (1) KR102808719B1 (ja)
CN (1) CN115398228B (ja)
WO (1) WO2021199937A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022166350A (ja) * 2021-04-21 2022-11-02 株式会社日立製作所 材料プロセス探索装置、材料プロセス探索システム、および、相関モデル生成方法
JP2022166376A (ja) * 2021-04-21 2022-11-02 株式会社ジェイテクト 研磨状態判定装置、研磨状態判定方法、及び品質評価装置
WO2023228571A1 (ja) * 2022-05-23 2023-11-30 Jfeスチール株式会社 代表組織写真決定方法、代表組織写真決定装置、撮影装置及びプログラム
JP2025005602A (ja) * 2023-06-28 2025-01-17 Jfeスチール株式会社 自動車用鋼板のめっき種類識別方法、装置及びプログラム
JP2025129387A (ja) * 2021-08-20 2025-09-04 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法、及びプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12587274B2 (en) 2023-03-28 2026-03-24 Quantum Generative Materials Llc Satellite optimization management system based on natural language input and artificial intelligence
US12368503B2 (en) 2023-12-27 2025-07-22 Quantum Generative Materials Llc Intent-based satellite transmit management based on preexisting historical location and machine learning
US12603701B2 (en) 2023-12-27 2026-04-14 Quantum Generative Materials Llc Distributed satellite constellation management and control system
CN117830731B (zh) * 2024-01-02 2024-06-28 北京蓝耘科技股份有限公司 多维并行调度方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4548903A (en) * 1984-03-30 1985-10-22 The United States Of America As Represented By The Secretary Of The Air Force Method to reveal microstructures in single phase alloys
JPS6279361A (ja) * 1985-10-02 1987-04-11 Daido Steel Co Ltd 二相ステンレス鋼の相定量方法
JPH06148062A (ja) * 1992-10-30 1994-05-27 Sumitomo Metal Ind Ltd 金属材の寿命評価方法
JP2007204772A (ja) * 2006-01-31 2007-08-16 Jfe Steel Kk 鋼のミクロ組織観察用着色エッチング液およびエッチング方法
WO2017010397A1 (ja) 2015-07-15 2017-01-19 国立大学法人大阪大学 画像解析装置、画像解析方法、画像解析システム、画像解析プログラム、および記録媒体
JP2018121752A (ja) 2017-01-30 2018-08-09 国立大学法人 東京大学 画像解析装置、画像解析方法、および画像解析プログラム
JP2019012037A (ja) * 2017-06-30 2019-01-24 Jfeスチール株式会社 材料特性推定装置及び材料特性推定方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0824336B2 (ja) * 1986-05-30 1996-03-06 株式会社東芝 画像情報処理装置
JP3034975B2 (ja) * 1991-03-26 2000-04-17 株式会社東芝 パターン特徴抽出方法
JP2004020519A (ja) 2002-06-20 2004-01-22 Jfe Steel Kk 金属材料表層の内部酸化層評価方法
JP2004325358A (ja) 2003-04-25 2004-11-18 Nakayama:Kk 鋳鉄成分比率測定装置及びその測定方法
WO2016038705A1 (ja) * 2014-09-10 2016-03-17 東芝三菱電機産業システム株式会社 圧延シミュレーション装置
JP6615706B2 (ja) 2016-06-30 2019-12-04 京セラ株式会社 電子機器、制御方法、及びプログラム
JP6468262B2 (ja) * 2016-08-12 2019-02-13 Jfeスチール株式会社 走査型電子顕微鏡での観察による複相鋼中のフェライト相、マルテンサイト相、及びオーステナイト相の分離可視化方法、並びに組織観察用複相鋼片
JP7345236B2 (ja) * 2017-11-10 2023-09-15 株式会社小松製作所 作業車両の動作を推定するための方法、システム、学習済みの分類モデルの製造方法、学習データ、及び学習データの製造方法
US11631230B2 (en) * 2018-03-06 2023-04-18 Omron Corporation Method, device, system and computer-program product for setting lighting condition and storage medium
CN115038965B (zh) * 2020-01-29 2024-12-24 杰富意钢铁株式会社 金相组织的相的分类方法、金相组织的相的分类装置、金相组织的相的学习方法、金相组织的相的学习装置、金属材料的材料特性预测方法和金属材料的材料特性预测装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4548903A (en) * 1984-03-30 1985-10-22 The United States Of America As Represented By The Secretary Of The Air Force Method to reveal microstructures in single phase alloys
JPS6279361A (ja) * 1985-10-02 1987-04-11 Daido Steel Co Ltd 二相ステンレス鋼の相定量方法
JPH06148062A (ja) * 1992-10-30 1994-05-27 Sumitomo Metal Ind Ltd 金属材の寿命評価方法
JP2007204772A (ja) * 2006-01-31 2007-08-16 Jfe Steel Kk 鋼のミクロ組織観察用着色エッチング液およびエッチング方法
WO2017010397A1 (ja) 2015-07-15 2017-01-19 国立大学法人大阪大学 画像解析装置、画像解析方法、画像解析システム、画像解析プログラム、および記録媒体
JP2018121752A (ja) 2017-01-30 2018-08-09 国立大学法人 東京大学 画像解析装置、画像解析方法、および画像解析プログラム
JP2019012037A (ja) * 2017-06-30 2019-01-24 Jfeスチール株式会社 材料特性推定装置及び材料特性推定方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4131159A4

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022166350A (ja) * 2021-04-21 2022-11-02 株式会社日立製作所 材料プロセス探索装置、材料プロセス探索システム、および、相関モデル生成方法
JP2022166376A (ja) * 2021-04-21 2022-11-02 株式会社ジェイテクト 研磨状態判定装置、研磨状態判定方法、及び品質評価装置
JP7622534B2 (ja) 2021-04-21 2025-01-28 株式会社ジェイテクト 研磨状態判定装置、研磨状態判定方法、及び品質評価装置
JP2025129387A (ja) * 2021-08-20 2025-09-04 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法、及びプログラム
WO2023228571A1 (ja) * 2022-05-23 2023-11-30 Jfeスチール株式会社 代表組織写真決定方法、代表組織写真決定装置、撮影装置及びプログラム
JP2023172382A (ja) * 2022-05-23 2023-12-06 Jfeスチール株式会社 代表組織写真決定方法、代表組織写真決定装置、撮影装置及びプログラム
JP7704071B2 (ja) 2022-05-23 2025-07-08 Jfeスチール株式会社 代表組織写真決定方法、代表組織写真決定装置、撮影装置及びプログラム
JP2025005602A (ja) * 2023-06-28 2025-01-17 Jfeスチール株式会社 自動車用鋼板のめっき種類識別方法、装置及びプログラム
JP7845291B2 (ja) 2023-06-28 2026-04-14 Jfeスチール株式会社 自動車用鋼板のめっき種類識別方法、装置及びプログラム

Also Published As

Publication number Publication date
US12106466B2 (en) 2024-10-01
US20230153976A1 (en) 2023-05-18
EP4131159A4 (en) 2023-11-08
EP4131159A1 (en) 2023-02-08
KR102808719B1 (ko) 2025-05-15
JP7173345B2 (ja) 2022-11-16
CN115398228A (zh) 2022-11-25
KR20220156044A (ko) 2022-11-24
JPWO2021199937A1 (ja) 2021-10-07
CN115398228B (zh) 2025-06-13

Similar Documents

Publication Publication Date Title
JP7173345B2 (ja) 金属組織の撮影条件決定方法、金属組織の撮影方法、金属組織の相分類方法、金属組織の撮影条件決定装置、金属組織の撮影装置、金属組織の相分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置
JP7147974B2 (ja) 金属組織の相の分類方法、金属組織の相の分類装置、金属材料の材料特性予測方法および金属材料の材料特性予測装置
CN113963042B (zh) 基于图像处理的金属零件缺陷程度评估方法
CN112435215A (zh) 一种基于图像的车辆定损方法、移动终端、服务器
CN113176270B (zh) 一种调光方法、装置及设备
CN116342597B (zh) 一种汽车配件表面电镀加工缺陷检测方法和系统
CN120339278A (zh) 一种销轴锻造成型质量检测方法及系统
US20140192178A1 (en) Method and system for tracking motion of microscopic objects within a three-dimensional volume
CN116740462B (zh) 一种基于特征增强的单分支粗糙度检测方法
Wang et al. A combined computer vision and image processing method for surface coverage measurement of shot peen forming
CN119715569B (zh) 一种2.5d成像与ai结合的安全扣全外观视觉检测方法及系统
JP2006292615A (ja) 外観検査装置、外観検査方法、コンピュータを外観検査装置として機能させるためのプログラムおよび記録媒体
Hu et al. Deep learning methods for roping defect analysis in aluminum alloy sheets: prediction and grading
CN116630847A (zh) 图像检测方法及装置
CN113850764A (zh) 基于高斯模糊的理赔材料图像质量控制方法、系统以及设备
JP7704071B2 (ja) 代表組織写真決定方法、代表組織写真決定装置、撮影装置及びプログラム
JP7854655B2 (ja) 定量評価装置、定量評価プログラム、および学習モデル生成プログラム
JP7677232B2 (ja) 組織写真評価方法、組織写真評価装置、撮影装置及びプログラム
CN119269515B (zh) 一种钼板的检测方法及系统
Diaz Ocampo et al. Enhanced chip analysis with computed tomography for estimation of chip segmentation frequency
Mubarak et al. Classification of microscopic aluminium inclusions using machine learning techniques and generative methods
CN120495258A (zh) 一种微弱划痕检测方法、装置、电子设备及存储介质
Ovechkin et al. The analysis of methods effectiveness of automated non-destructive testing of products based on Data Mining methods
CN116843973A (zh) 基于去除不良波段的医学高光谱影像分类方法
Satou et al. Automatic analysis for neuron by confocal laser scanning microscope

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2021533827

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21782081

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20227036044

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021782081

Country of ref document: EP

Effective date: 20221031

WWG Wipo information: grant in national office

Ref document number: 202180025636.X

Country of ref document: CN